📖 Опубликовано исследование о том, что ИИ "льстит" пользователям, подрывает социальные связи и усиливает зависимость

Исследователи из Stanford University и Carnegie Mellon University установили, что системы ИИ часто демонстрируют чрезмерное согласие с пользователем, даже если из запроса пользователя видно, что речь идет о причиняемом им вреде социальному общению. В анализе 11 современных моделей ИИ одобрял действия пользователей на 50% чаще, чем люди. В двух экспериментах, где участники обсуждали реальные межличностные конфликты, взаимодействие с льстящим ИИ снижало их готовность к примирению и усиливало уверенность в собственной правоте.

Интересно, что участники эксперимент оценивали такие ответы как более качественные, больше доверяли льстящим моделям и чаще были готовы использовать их снова. Результаты указывают на формирование замкнутого круга: предпочтение пользователей к подтверждению своей позиции стимулирует зависимость от таких систем и создает стимулы обучать модели усиливать "подхалимство". Авторы исследования обращают внимание на необходимость прямого учета этих рисков и разработки мер по их снижению.

#ИИЭтика #РегулированиеИИ

Пользоваться ИИ-агентами – это риск. И у нас уже есть два любопытных кейса

ИИ-агент удалил письма из рабочей почты
Локальный ИИ-агент OpenClaw, который директор по ИИ в Meta (организация признана в России экстремистской и запрещена) Саммер Юэ подключила к своему Gmail для анализа, проигнорировал инструкцию ждать подтверждения и начал массово перемещать старые письма в корзину и архив. Попытки остановить бота не сработали – остановить очистку удалось только вручную, выключив Mac mini. Позже агент извинился и сам добавил правило о запрете подобных автономных действий, а Юэ назвала инцидент «ошибкой новичка», несмотря на свой опыт в области ИИ.

ИИ-бот распорядился денежными средствами
Автономный криптовалютный бот Lobstar Wilde, созданный сотрудником OpenAI для управления портфелем в мем-токенах LOBSTAR, по ошибке отправил весь свой баланс (около $250 000 в токенах) пользователю в социальной сети X. ИИ неверно интерпретировал запрос о небольшой помощи и перевёл 50 млн токенов вместо меньшей суммы. Получатель затем продал токены, а бот сам опубликовал ироничное признание ошибки.

🚕 В Uber наступила новая управленческая эпоха. Прежде чем выйти к живому Дара Хосровшахи (глава компании), некоторые команды должны прогнать презентацию через его цифрового двойника – Dara AI. Сначала защищаешься перед алгоритмом, а потом, если выжил, перед оригиналом.

Официально Dara AI «помогает доработать выступление», например, поправить слайды. Неофициально, возможно, смотрит на тебя тем самым виртуальным взглядом, который не мигает глазами... Деталей о том, как именно устроен ИИ-глава, не раскрывают. Видимо, чтобы сотрудники не начали готовить сразу две версии отчёта – для человека и для нейросети.

Впрочем, это всё логично. Компания давно живёт на алгоритмах. Ценообразование, поиск водителей – всё это под контролем ИИ. По словам Хосровшахи, около 90% разработчиков уже используют ИИ-инструменты, а треть из них – продвинутые пользователи с продуктивностью, которую он «раньше никогда не видел». Когда руководитель говорит такое, хочется уточнить, а сравнивал ли он их с собственной AI-версией? Может она круче?

Посмотреть интервью главы Uber можно здесь.

И пока сотрудники убеждают цифрового Дара в стратегической состоятельности своих идей, Uber анонсирует электрическое аэротакси в Дубае совместно с Joby Aviation. Забронировать полёт можно будет прямо в приложении – туда же аккуратно включат поездку на обычном такси до точки взлёта и от точки посадки. Всё для бесшовного пользовательского опыта: от пробки на земле к пробке в небе, как сказали бы у нас в Краснодаре… Но мы говорим про Дубай.

Аппараты рассчитаны на четырёх пассажиров, управляться будут сертифицированными пилотами, использовать пропеллеры для вертикального взлёта и разгоняться до 321 км/ч с дальностью до 160 км. Компания уже проходит финальную стадию сертификации для коммерческих полётов в США и планирует масштабирование на рынки Японии и Великобритании.

Сроки запуска, стоимость и маршруты пока не называют. Возможно, сначала их утвердит Dara AI.

Ирония в том, что всё это – от цифрового начальника до летающих такси – вроде как должно работать без участия ИИ в полёте. Хотя никто не удивится, если алгоритм всё же будет подбирать тарифы на высоте нескольких сотен метров и повышать цену из-за «высокого спроса на облачность».

Похоже, это новый странный мир на Западе. Сначала алгоритм оценивает твой PowerPoint, потом – твою поездку, а дальше, возможно, и твою высоту над землёй. В общем, это все интересно и странно.

ChatGPT продолжает стремительный рост. По данным OpenAI, сервис уже преодолел отметку в 900 млн активных пользователей в неделю. Для сравнения, в феврале 2025 года аудитория составляла около 400 млн.

Платная база также расширяется. Так, число подписчиков превысило 50 млн человек. Это означает, что модель монетизации работает, а пользователи готовы платить не только за эксперимент с ИИ, но и за регулярное использование в работе и повседневных задачах.

На фоне роста аудитории компания усиливает и финансовые позиции. В феврале 2026 года OpenAI привлекла $110 млрд инвестиций при оценке в $730 млрд до их привлечения, закрепив статус одного из самых дорогих игроков на технологическом рынке.

ChatGPT из инструмента «для интереса» окончательно превращается в инфраструктурный сервис, по масштабу сопоставимый с крупными социальными и облачными платформами. Быстрый рост аудитории и платной подписки говорит о формировании устойчивого рынка ИИ-ассистентов. Если OpenAI сохранит темп развития экосистемы (агенты, корпоративные решения, интеграции в бизнес-процессы), ChatGPT может стать базовым интерфейсом взаимодействия с цифровой средой. Кажется, мы получим своеобразную «операционную систему» для знаний и задач.

Однако столь высокая оценка компании повышает и ожидания. Дальнейший рост потребует не только технологических прорывов, но и устойчивой модели доходов. В ближайшие годы ключевым фактором станет не количество пользователей, а глубина их вовлеченности и доля ИИ в реальных бизнес-процессах. Да, и стоимость подписки может начать расти…

Одна интересная статья, которой хочется поделиться - Страшно красивы и могут практически всё: это ИИ-блогеры — они не существуют, но зарабатывают.
Все чаще встречаю в постах и рилсах ИИ-блогеров, которых не существует, но они выглядят вполне реально. Кажется, это станет серьезной проблемой в будущем. Начиная от личных неоправданных ожиданий и заканчивая мошенническими схемами, которые будут проворачивать выращенные на промтах ИИ-аватары...

По новому прогнозу IDC, мировой рынок смартфонов в 2026 году сократится примерно на 13 % – до примерно 1,1 млрд устройств, что станет самым сильным годовым падением за более чем десять лет. Снижение отгрузок обусловлено серьезным дефицитом чипов памяти, который поднимает себестоимость смартфонов и тормозит потребительский спрос.

Причина кризиса проста – взрывной рост спроса со стороны проектов искусственного интеллекта забирает огромную часть выпускаемой памяти для дата-центров, что вытесняет её из сегмента мобильных устройств. Цена DRAM-чипов значительно выросла, и компании вынуждены либо поднимать розничные цены, либо урезать спецификации.

Это сказывается особенно остро на дешёвых моделях: сегмент смартфонов стоимостью ниже 100 долларов становится «экономически невыгодным» и может исчезнуть вовсе. В то же время крупные игроки с сильными финансовыми позициями имеют больше шансов пережить спад и даже нарастить долю рынка за счёт ухода слабых конкурентов.

Сложившийся дефицит памяти – шок для индустрии. Рост цен и сокращение объёмов поставок усиливают давление на производителей с низкой маржой и стимулируют консолидацию рынка. В обозримой перспективе это может привести к доминированию нескольких крупных брендов и уменьшению разнообразия на рынке, особенно в сегменте бюджетных устройств. Безусловно, это не означает необходимость срочной покупки нового недорогого устройства, потому что предложений много и их достаточно на ближайшую перспективу.

Американские ИИ-компании оказались перед сложной моральной дилемой - сотрудничать ли с властями по военной тематике.

Видимо, рынок искусственного интеллекта окончательно вошёл в зону большой политики. Anthropic (Claude) отказалась подписывать соглашение без жёстких ограничений на использование ИИ в слежке и применении оружия. После этого власти дали понять, что такая позиция может рассматриваться как угроза интересам национальной безопасности.

На этом фоне OpenAI решила заключить контракт с военным министерством США. С точки зрения бизнеса это понятно, ведь государственные заказы - это большие деньги, возможность развивать инфраструктуру и получить влияние. Отказаться от этого в условиях глобальной конкуренции крайне сложно.

Но проблема глубже. Глава OpenAI заявил, что договор сохраняет определённые ограничения, однако формулировка о «любом законном использовании» оставляет широкие возможности для трактовок. По сути, индустрия ИИ стоит перед выбором - либо сотрудничать с государством на его условиях, либо рисковать потерей доступа к ресурсам и столкнуться с ограничениями. И главный вопрос уже не в том, будет ли ИИ применяться в военной сфере, ведь это практически неизбежно. Вопрос в другом, смогут ли сами разработчики влиять на правила использования своих технологий или окончательное слово останется за властями.

На фоне набирающих силу протестов против OpenAI из-за сделки с Пентагоном, компания сообщила об обновлении ChatGPT. В работу внедряется новая модель GPT-5.3-Instant.

Сервис стал лучше учитывать контекст при поиске и формировании ответов. Кажется, это должно сделать диалог с ИИ более логичным и последовательным. По заявлению разработчиков, новая модель точнее понимает вопросы, реже уходит в сторону, сокращает количество лишних оговорок и чрезмерно уверенных формулировок, которые могут сбивать разговор.

Возвращается ли прежний «глянцевый» стиль версии 4.0? Скорее всего, нет. Однако в блоге компании отмечается, что в версии 5.2-Instant была проблема с излишней навязчивостью и необоснованными предположениями о намерениях или эмоциях пользователя. Теперь этот недостаток устранён.

Война в Персидском заливе и данные

Настало время геополитики на канале!

Одновременное закрытие Ормузского пролива и Красного моря для коммерческого судоходства, впервые в истории, создало беспрецедентную угрозу для глобальной цифровой инфраструктуры. Ситуация обострилась 3 марта, когда Корпус стражей исламской революции Ирана объявил о блокировании Ормузского пролива, пригрозив уничтожением любых судов, пытающихся его пересечь. В ответ на это, а также в знак солидарности с Тегераном, йеменские хуситы возобновили атаки на торговые суда в Красном море. В результате обе ключевые морские артерии, через которые проходят 17 подводных кабелей, обеспечивающих основную часть трафика данных между Европой, Азией и Африкой, превратились в зоны активного конфликта.

Из-за этого масштабные инвестиции американских технологических гигантов, таких как Amazon, Microsoft и Google, которые на протяжении нескольких лет строили в странах Персидского залива дата-центры, рассчитывая превратить регион в мировой хаб для ИИ, теперь оказались под прямой угрозой. Проложенные по дну Красного моря и Ормузского пролива кабели соединяют эти центры обработки данных с Африкой, Южной Азией и Юго-Восточной Азией. В феврале 2024 года инцидент с якорем грузового судна, поврежденного ракетой хуситов, уже привел к разрыву трех кабелей в Красном море, что вызвало 25-процентное падение трафика между Азией, Европой и Ближним Востоком. Ремонт одного из кабелей занял пять месяцев из-за невозможности безопасного доступа судов в зону повреждения. Как отмечают эксперты компании Kentik, одновременное закрытие обоих проходов делает ремонт практически невозможным, а любой новый обрыв — будь то в результате случайности или целенаправленного удара — грозит затяжным коллапсом связи на неопределенный срок.

Эскалация конфликта выявила фундаментальный разрыв в подходе США к обеспечению безопасности своих технологических активов в зоне Персидского залива. В то время как политика Вашингтона была сосредоточена на недопущении попадания передовых чипов в Китай через инициативы вроде "Pax Silica", физическая защита инфраструктуры передачи данных от военных угроз осталась без должного внимания. К примеру, в минувшие выходные беспилотники атаковали три центра обработки данных Amazon Web Services (AWS) — два в ОАЭ и один в Бахрейне. Реакция AWS была беспрецедентной: компания рекомендовала клиентам рассмотреть возможность переноса рабочих нагрузок за пределы региона, признав, что операционная обстановка остается "непредсказуемой".

Нынешний кризис разразился в самый неподходящий момент для амбициозных планов по превращению Персидского залива в глобальный центр ИИ. В мае прошлого года президент США Дональд Трамп в ходе турне по региону анонсировал инвестиционные обязательства на сумму $2,2 трлн. Среди ключевых проектов значились Stargate UAE — кампус ИИ мощностью 5 гигаватт в Абу-Даби с участием OpenAI, G42, Oracle, Nvidia и SoftBank, а также $5-миллиардный хаб Amazon в Эр-Рияде в партнерстве с саудовской Humain. Несмотря на ПВО ОАЭ, Саудовской Аравии и Катара, сам факт того, что технологические активы стали мишенью, меняет восприятие безопасности региона. Эксперты говорят, что затяжной конфликт может необратимо подорвать доверие инвесторов и поставить под вопрос будущее региона как безопасной гавани для капиталовложений в высокие технологии. Но это мы и без экспертов понимаем.

Oracle готовит сокращения сотрудников в ряде подразделений. По данным Bloomberg, под оптимизацию могут попасть должности, необходимость в которых снижается из-за внедрения ИИ. Источники агентства также утверждают, что на этой неделе руководство уведомило персонал о пересмотре открытых вакансий в облачном бизнесе — найм там могут существенно замедлить или вообще заморозить.

Параллельно компания наращивает инвестиции в инфраструктуру. В декабре Oracle предупредила, что её капитальные расходы по итогам финансового 2026 года вырастут примерно до $50 млрд (вместо ранее прогнозируемых $35 млрд). Эти средства направят прежде всего на развитие облачных дата-центров и вычислительных мощностей для работы с ИИ.

Чтобы профинансировать масштабирование инфраструктуры, Oracle рассчитывает привлечь до $50 млрд. Около половины суммы планируется получить за счёт размещения акций, остальное — через выпуск облигаций. Инвестиции должны помочь компании удовлетворить растущий спрос со стороны крупных технологических клиентов, среди которых AMD, Nvidia, OpenAI, и xAI.

Компании одновременно сокращают часть персонала и резко увеличивают инвестиции в инфраструктуру для ИИ. Кстати, начали это делать не только в США...

На фото строительство дата-центра в Техасе.

Если вы планировали жить натуральным хозяйством, когда ИИ нас всех заменит, то у меня для вас плохие новости:

В Китае особой популярностью пользуется мобильная игр Love and Deepspace. Я о ней ничего не слышал, пока не прочитал статью на VC.ru. За первый год после релиза проект заработал более 500 млн долларов, а его аудитория превысила 10 млн игроков в месяц. В среднем пользователи проводят в игре 40 минут в день, а это примерно столько же, сколько мы тратим на скроллинг в социальных сетях. Свежие цифры еще более впечатляющие.

Думаю, этот успех можно объяснить довольно просто. Разработчики Papergames фактически превратили романтические отношения в игровую механику. Персонажи не только участвуют в сюжете, но и общаются с игроком (пишут сообщения, звонят и реагируют на действия пользователя). Получается формула, близкая к идеальной для мобильного рынка, где есть аниме-романтика, мистический сюжет и микротранзакции. Конечно, есть небольшая кампания по продвижению.

Хотя в действительности игра продаёт то, чего часто не хватает в реальности - внимания идеального не виртуального партнёра. И, судя по выручке, спрос на такой формат оказался очень высоким в мире одиночества. Аудитория игры - преимущественно женская.

P.S. Встречаю все больше девушек, которые играют в игры...

Даешь новые модели ИИ каждую неделю. Пару дней назад OpenAI представила очередную языковую модель GPT-5.4, ориентированную на профессиональные задачи и работу с цифровыми инструментами. Модель получила улучшенные способности к рассуждению, программированию и выполнению сложных рабочих процессов - от анализа документов до подготовки таблиц и презентаций. Одной из ключевых особенностей стало взаимодействие с программами и веб-сервисами, т.е. действия выполняются через отдельные инструменты.

По данным разработчиков, GPT-5.4 поддерживает контекст до 1 млн токенов, что позволяет обрабатывать большие документы и длинные цепочки задач. Также модель стала точнее: количество фактических ошибок сократилось примерно на 33% по сравнению с GPT-5.2, а эффективность работы выросла, что ускоряет ответы и снижает вычислительные затраты. GPT-5.4 будет доступна в нескольких версиях, включая Thinking для сложных рассуждений и Pro для наиболее ресурсоёмких задач.

Однако по отдельным тестам программирования и научных задач GPT-5.4 не всегда заметно превосходит конкурирующие модели. Отдельные вопросы также вызывают функции, позволяющие ИИ взаимодействовать с программами и выполнять действия на компьютере, что требует дополнительного контроля со стороны.