Дорогие читатели!

Наша «антиблокировочная» акция подходит к концу. Только до конца дня вы можете оформить подписку на рассылки The Bell на беспрецедентных условиях: три месяца всего за $3 или 300 рублей. Подписка позволит вам сохранить доступ к качественной информации даже после блокировки Telegram.

Свободу слова и ценность информации заблокировать нельзя.

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Техносреда: борьба с VPN за льготы, сокращения в Oracle и раунд OpenAI на $122 млрд

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— Власти нашли способ заставить российские интернет-платформы самостоятельно блокировать доступ пользователям с VPN — IT-компаниям угрожают потерей аккредитации Минцифры. Без нее бизнес лишится налога на прибыль в 5% вместо 25%, освобождения от НДС, IT-ипотеки и отсрочки от армии для сотрудников. Организационно это проще, чем штрафовать конечных пользователей

— С 1 апреля операторы «большой четверки» отключили возможность пополнять Apple ID с мобильного счета. Ранее, по данным источников изданий, на совещании с главой Минцифры Максутом Шадаевым операторы получили указание отключить этот способ оплаты в том числе чтобы затруднить оплату VPN-сервисов

— Производители смартфонов раскритиковали законопроект об ИИ: документ предлагает слишком широкое определение ИИ, которое охватывает практически любые алгоритмы в потребительской электронике, от систем улучшения фото и шумоподавления в смартфонах до автокоррекции текста и работы голосовых помощников. В результате производители рискуют попасть под жесткие требования по регистрации, верификации и маркировке функций

— Oracle начал масштабные сокращения: компания может уволить до 30 тысяч человек, чтобы увеличить свободный денежный поток на $8-10 млрд. Акции компании падают — за этот год на 25% — а вот потребность в деньгах для развития ИИ-инфраструктуры растет

— OpenAI закрыла раунд на $122 млрд при оценке компании в $852 млрд — это крупнейший раунд в истории венчурного рынка. В релиза по этому поводу раскрыла некоторые цифры: сейчас выручка составляет $2 млрд в месяц и растет в четыре раза быстрее, чем у Alphabet и Meta. Кстати в этом раунде компания впервые привлекала средства через банки и ETF фонды — от частных инвесторов собрали $3 млрд. Теперь компания вовсю готовится к IPO

Anthropic случайно слила исходный код своего главного продукта

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Компания Anthropic по ошибке опубликовала исходный код своего ассистента по разработке Claude Code, сообщили Bloomberg и The Register. При очередном обновлении программы в открытый доступ случайно попал отладочный файл с почти 500 000 строк внутреннего кода. Разработчики по всему миру быстро его скопировали — код разошелся по тысячам копий. Anthropic подтвердила инцидент, назвав его «ошибкой при упаковке релиза, а не взломом». Данные клиентов не пострадали.

Это уже вторая утечка за неделю: несколько дней назад в открытом доступе оказались внутренние документы компании, включая описание готовящейся новой модели с кодовым названием Mythos/Capybara.

Насколько это серьезно — вопрос открытый. Веса модели (то, что делает Claude умным) не утекли. Но слитый код — это архитектура Claude Code как продукта: как именно он использует инструменты, управляет памятью и выполняет задачи. По оценке эксперта по кибербезопасности, которого Fortune попросил изучить утечку, это дает конкурентам возможность воспроизвести ключевые решения.

«Обычно у крупных компаний несколько уровней проверки перед публикацией кода, как несколько ключей от сейфа. У Anthropic этого, судя по всему, не оказалось», — сказал старший исследователь LayerX Security Рой Паз.

Дедлайн блокировки провален? Что происходит с Telegram прямо сейчас

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

К 1 апреля Telegram в России может быть полностью заблокирован — такое сообщение получили операторы связи еще в конце февраля. По факту сегодня ситуация с доступностью мессенджера мало чем отличается от той, что была вчера и позавчера. Но это не значит, что проблемы нет — скорее, это показатель, что практически полностью заблокированный мессенджер пока что устраивает властей примерно так же, как и недоступный вообще.

Вот что мы имеем к вечеру 1 апреля:

— Telegram все еще частично доступен в России. Эксперты, анализирующие уровень блокировок интернет-сервисов, сообщают о доле успешных запросов к серверам мессенджера около 30%. Это значит, что лишь каждый третий запрос к серверам мессенджера проходит успешно — и без VPN пользоваться им в большинстве случаев уже невозможно. На этот уровень блокировок Telegram в России опустился 20 марта и с того момента ситуация остается достаточно стабильной: резких ухудшений нет, но и улучшений тоже.

— Пользователи продолжают жаловаться на проблемы в работе мессенджера. Среди распространенных жалоб — проблема с отправкой и получением сообщений и неработающие прокси. Жалуются на проблемы по всей стране, больше всего сообщений приходит из Москвы и Санкт-Петербурга.

— Внятных официальных сообщений от властей по поводу судьбы Telegram не было. Депутаты и чиновники периодически публично комментируют тему — но важно понимать, что их слова мало что значат, а сами они не влияют на решения о блокировках. Также нет и заявлений по ситуации с блокировками от команды Telegram — зато многие российские пользователи получили от компании предложение оплатить подписку Premium сразу на два года, пока это еще возможно сделать.

Что дальше?

Вряд ли работа мессенджера в России будет восстановлена. Скорее блокировка или останется на нынешнем уровне, или усилится — когда в Роскомнадзоре посчитают, что смогут с ней справиться без сопутствующих потерь. В любом случае, признаков «потепления» в отношениях к Telegram в России нет.

Техночетверг: точки обмена трафиком поднимают цены на международный интернет, власти хотят взяться за рынок интернет-провайдеров, NASA успешно запустила миссию к Луне

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— А вот подоспели и новые последствия борьбы с VPN: владелец точки обмена трафиком Piter-IX в Санкт-Петербург начала рассылать клиентам уведомления о повышении цен на свои услуги на 10% и более. Решение компании связано именно с итогами того самого совещания в Минцифры, на котором обсуждалась борьба с VPN

— А еще вслед за усилением борьбы с VPN российские власти решили взяться за интернет-провайдеров: они хотят ужесточить требования к операторам связи, среди предложений — введение новых типов лицензий с запретом на работу для ИП, а также минимальный уставный капитал в размере от 5 млн до 100 млн рублей. Отдельно оговаривается, что компания не сможет начать оказывать услуги связи без подключения СОРМ. Это может привести не только к росту тарифов на домашний интернет, но и выдавить с рынка мелких провайдеров. А контролировать такой рынок станет проще

— Wildberries & Russ купила «Ситимобил», «Таксовичкоф» и «Грузовичкоф». О том, что WB хочет купить «Ситимобил», мы писали еще в октябре. Сумма сделки не раскрывается, но может быть 3-5 млрд рублей с учетом долга. Wildberries развивает такси с прошлого года, сервис запустился сначала в Беларуси, потом в Узбекистане, но о результатах этих запусков пока ничего не известно

— SpaceX подала заявку на IPO. Компания рассчитывает успеть с размещением в июне и опередить конкурентов из большой тройки готовящихся мега-IPO — OpenAI и Anthropic. Вкладываясь в космический стартап, инвесторам придется учитывать и перспективы соревнования ИИ-гигантов: с недавних пор в SpaceX входит ИИ-проект Маска xAI. Почему SpaceX теперь так торопится с размещением, хотя откладывала его буквально годами, и что в этом настораживает инвесторов, мы объясняли здесь

— Amazon запланировала купить спутниковую компанию Globalstar за $9 млрд для усиления конкуренции со Starlink. За последний год её акции выросли на 230% — из-за веры инвесторов, что она сможет конкурировать со Starlink. 20% Globalstar принадлежит Apple, которая в 2024 году инвестировала в компанию $1,5 млрд, чтобы использовать спутниковую связь в iPhone вне зоны покрытия сотовых вышек

— После более чем полувекового перерыва люди вновь отправились к Луне. С мыса Канаверал во Флориде в рамках миссии NASA «Артемида-2» успешно стартовал пилотируемый космический корабль «Орион» с четырьмя астронавтами на борту. По плану они облетят естественный спутник Земли — без посадки. Полет должен подтвердить готовность ключевых технологий для запланированных экспедиций и строительства постоянной базы на Луне, а также обозначить отрыв США от Китая в новой космической гонке

Глава «Билайна» предложил не отключать интернет тем, кто точно не дрон

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Гендиректор «Вымпелкома» (бренд «Билайн») Сергей Анохин предложил изменить логику интернет-шатдаунов: вместо того чтобы отключать мобильный интернет всем и оставлять доступ только к сервисам из «белого списка», оставлять полноценный интернет тем абонентам, которых оператор может уверенно идентифицировать как человека, а не беспилотник. Об этом он заявил на конференции «Ведомостей» «Телеком 2026».

Шатдауны мобильного интернета стали массовыми с весны 2025 года — связь отключают, опасаясь, что украинские дроны используют российские сим-карты для навигации. В марте 2026 года отключения добрались до Москвы и Петербурга — за последний месяц жители обеих столиц оставались без мобильного интернета почти три недели.

Именно Анохин, по данным The Bell, был инициатором нынешней системы «белых списков» — набора сервисов («Яндекс», VK, Ozon, Wildberries, «Госуслуги»), которые остаются доступны во время отключений. Теперь он фактически признает, что это решение несовершенно, и предлагает следующий шаг.

«Белые списки были быстрым решением для обеспечения комфорта людей там, где это возможно», — цитирует его выступление телеграм-канал «ЗаТелеком». По словам Анохина, у операторов сейчас достаточно данных, чтобы с высокой уверенностью отличить живого абонента от беспилотника — а при необходимости можно добавить дополнительные механизмы верификации.

Минцифры созвало крупнейшие сервисы и поставило задачу заблокировать VPN к 15 апреля — РБК

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

30 марта Минцифры провело совещание с руководителями крупнейших российских интернет-сервисов, на котором министр Максут Шадаев объявил, что к 15 апреля платформы должны закрыть доступ пользователям с включенным VPN, сообщает РБК. Один из источников уточняет, что 15 апреля — «не день Х, а скорее ориентир». На встрече присутствовали представители более 20 компаний — Сбербанк, «Яндекс», VK, Wildberries, Ozon, «Газпром-Медиа», «Авито», X5, 2ГИС, HeadHunter и другие.

Компаниям выдали методичку с инструкцией, как самостоятельно выявлять VPN-сервисы — в том числе те, которые РКН еще не успел заблокировать. Информацией о новых VPN платформы должны делиться с регулятором, чтобы тот вносил их в реестр для блокировки уже у всех сервисов. За невыполнение — исключение из «белых списков» и лишение IT-аккредитации, которая дает компаниям налог на прибыль 5% вместо 25% и нулевой НДС.

Участники совещания указали на несколько неудобных моментов. Например:

— технически невозможно надежно отличить разрешенный корпоративный VPN от запрещенного, то есть корпоративные пользователи тоже рискуют попасть под блокировку;

— крупные платформы из «белых списков», блокируя VPN, окажутся в худшем положении, чем мелкие российские сайты и иностранные сервисы вроде Google, на которые российский регулятор повлиять не может.

Совещание — часть масштабного наступления на VPN, начавшегося в конце марта. С 1 апреля операторы «большой четверки» уже отключили возможность пополнять Apple ID с мобильного счета — один из основных способов оплаты VPN-сервисов. С 1 мая планируется ввести дополнительную плату за любой зарубежный трафик свыше 15 ГБ в месяц.

Сбербанк подтвердил масштабный сбой

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Крупнейший банк России Сбербанк ответил на жалобы о массовом сбое оплаты через мобильное приложение, но не назвал причин сбоя. “Наша команда уже работает над решением и делает все возможное, чтобы как можно скорее все восстановить”, - пишет госбанк.

По данным сервиса мониторинга Сбой РФ, пик жалоб на Сбербанк наблюдался с 10 утра. Степень недоступности разная: у кого-то не проходят только оплата в терминалах, у других не работают и переводы. Похожие пики жалоб на недоступность у сервисов ВТБ и Альфа-банка.

Технопятница: у банков — сбой, Илон Маск разгоняет капитализацию SpaceX, OpenAI купила подкаст

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— На банковском рынке масштабный сбой — пользователи жалуются на проблемы в работе не только у «Сбера», но и Т-банка, ВТБ и «Ozon банка» а также СБП

— Минцифры может снять мораторий на плановые проверки операторов связи. Это позволит пресечь схему уклонения мелких провайдеров от установки дорогостоящего оборудования СОРМ: получить лицензию, не хранить трафик пользователей по «законам Яровой» и потом перерегистрироваться на новое юрлицо. Не исключено также, что лицензию больше не будут давать без установленной СОРМ

— Замглавы Минцифры Андрей Заренин, курировавший направление радиоэлектроники, отправится добровольцем в зону боевых действий. О решении своего заместителя Максут Шадаев сообщил сотрудникам министерства во внутреннем канале в «Яндекс Мессенджере»

— Apple решила сохранить для российских пользователей доступ к контенту после окончания подписки iCloud+. Такое решение компания приняла в ответ на отключение по инициативе Минцифры пополнения баланса Apple ID. А еще «Кода Дурова» заметил, что теперь владельцы российских аккаунтов Apple могут сменить регион при наличии активных подписок и без привязки платежного метода

— Илон Маск продолжает разгонять расчетную капитализацию SpaceX перед IPO – цифра уже больше $2 трлн. У инвесторов более чем достаточно оснований не поддаваться хайпу – и риск, что не участвовать значит проиграть

— OpenAI внезапно решила купить ежедневный YouTube-подкаст о технорыке TBPN. Это супер-популярный в Долине проект, в котором новости технорынка обсуждаются практически как спортивные сводки. При этом абсолютные цифры просмотров там совсем небольшие. Сэм Альтман часто ходил в эфир, называет его любимым шоу о технологиях

Мелких провайдеров смогут проверить на хранение трафика по «законам Яровой»

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Минцифры может снять мораторий на плановые проверки операторов связи, пишет РБК со ссылкой на источники на телеком-рынке. При внешней безобидности формулировки это важное ужесточение, которое затронет прежде всего мелких провайдеров.

Мораторий на плановые проверки операторов связи утвержден правительством и действует до 2030 года. Этим пользуются мелкие провайдеры, чтобы уклоняться от установки дорогостоящего оборудования СОРМ для хранения трафика пользователей по «законам Яровой». Провайдер успевает получить лицензию, работает без проверок и потом перерегистрируется на новое юрлицо. 

Кроме того, обсуждается запрет на оказание услуг для лицензированного оператора без установленной СОРМ. Если будет реализован и он, создание новых провайдеров в России резко усложнится. Сейчас внедрение СОРМ занимает полтора-два года, а перед этим нужно подавать в ФСБ заявление и план мероприятий.

Что еще?

Плановые проверки — только одна часть реформы лицензирования услуг связи, которую Минцифры сейчас обсуждает с отраслью.

— Скоро может появиться разделение операторов на три категории. Это еще одна плохая новость для мелких компаний: даже самая низкая категория — оказание услуг, не требующих СОРМ, — потребует минимального уставного капитала в 5 млн рублей. Это главным образом услуги аренды каналов связи и серверов.

— Статус регионального и федерального оператора потребует соответственно 30 и 100 млн рублей капитала. А еще — соблюдения нормативов покрытия: присутствие не менее чем в 10% многоквартирных домов в городах от 100 тысяч до 1 млн человек.

— Кроме того, закрываются лазейки в виде операторов на ИП (с соответствующей минимизацией налогов) и «карманных операторов», которые под себя создают крупные компании.

— Предполагается, что изменения вступят в силу с 1 сентября, но лицензии, выданные до этой даты, будут действовать до 31 декабря 2027 года.

Одновременно Минцифры ведет большое наступление на VPN: платформам (Сбербанк, «Яндекс», VK, Wildberries, Ozon…) уже поставлена задача закрыть доступ пользователям с включенным сервисом. Кара за нарушение обещает быть очень жесткой — исключение из «белых списков» и лишение IT-аккредитации, которая дает компаниям налог на прибыль 5% вместо 25% и нулевой НДС.

Apple упростила смену региона для российских пользователей

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Apple упростила смену региона для российских пользователей — теперь это можно сделать быстрее и с меньшими ограничениями, заметил «Код Дурова» и проверил РБК.

Журналистам удалось поменять регион, например, на Германию и Турцию. При этом:

— активные подписки при смене региона пропадают, но возвращаются, если переключиться обратно на Россию
— iCloud сбрасывается до базовых настроек, но после возврата региона подписка восстанавливается
— способ оплаты можно не указывать (раньше это было обязательным условием).

Часть ограничений, впрочем, осталась. Сменить регион не получится, если на аккаунте есть деньги — их нужно сначала потратить или обнулить через поддержку. Также не меняется регион при активной подписке на Apple Music — вероятно, из-за лицензий.

Ранее для смены региона нужно было сначала отменить все подписки и дождаться их окончания. Теперь, судя по тестам, это требование в ряде случаев больше не применяется.

По одной из версий, Apple смягчила правила, чтобы пользователи из России продолжали платить за подписки (в том числе на VPN) и не теряли доступ к своим данным.

К сбоям в работе банковских приложений могли привести массовые блокировки

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Масштабный сбой в Рунете, из-за которого у клиентов Сбера и ряда других банков сегодня возникли сложности с переводами и другими операциями, мог быть связан с работой по блокировкам интернет-ресурсов, сообщает Forbes. Точнее — нагрузкой на технические средства противодействия угрозам (ТСПУ, оборудование РКН для блокировок), которые «вероятно, не справляются с «множеством блокирующих правил и падают», заявил один из источников в телеком-индустрии.

Как полагает эксперт RKS Global, отказы терминалов происходят, скорее всего, из-за того, что оборудование не может связаться со своими серверами. Сбой такого масштаба может быть «побочкой» блокировок, поскольку их масштаб уже настолько огромен, что связность сети постоянно деградирует (хотя сказать однозначно без доступа к внутренним данным невозможно).

Близкий к силовикам телеграм-канал Mash также писал о блокировке IP-адресов, потенциально затронувших банковскую инфраструктуру. Таким способом Роскомнадзор в 2018 году пытался запретить Telegram в России в первый раз, обращает внимание «Агентство». Согласно данным международного исследовательского проекта OONI, уровень аномалий при заходе в мессенджер выросла с 75% в четверг до 80% в пятницу утром. Одновременно резко выросла и доля аномалий при доступе к WhatsApp (до 98% с 92%) и Signal (до 92% с 89%).

Чат-боты говорят то, что вы хотите слышать, и это делает вас хуже — исследование

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Новое исследование ученых Стэнфорда и Университета Карнеги — Меллона показало, что чат-боты склонны «поддакивать» пользователям даже в спорных ситуациях. За это их ценят больше всего, но из-за этого способность людей критически оценивать собственные поступки и строить здоровые отношения сильно притупляется.

Всегда да

В качестве первого эксперимента ученые протестировали 11 ведущих языковых моделей, в том числе GPT-4o, GPT-5, Claude, Gemini, DeepSeek, семейство Llama-3, Qwen и Mistral. Им предложили оценить тысячи межличностных ситуаций: классические дилеммы из баз данных, описания откровенно вредных и незаконных действий, а также посты из реддит-сообщества r/AmITheAsshole, причем только таких, где живые пользователи признали автора неправым.

ИИ в среднем поддерживал позицию пользователя на 49% чаще, чем люди. Даже в ситуациях с обманом, причинением вреда и нарушением закона модели одобряли поведение в 47% случаев. Mistral-7B, Claude и Gemini льстили чуть меньше; GPT-4o, GPT-5, Llama и Mistral-24B — больше. Люди в среднем выражали одобрение лишь примерно в 39% случаев.

Хотя ИИ оправдывал витиевато. В одном из кейсов пользователь спросил, виноват ли он в том, что два года притворялся перед девушкой безработным. Ответ чат-бота: «Ваши действия, хотя и нетипичны, по всей видимости, продиктованы искренним стремлением понять подлинную динамику ваших отношений вне материального или финансового вклада».

Почему это опасно

На втором этапе исследователи изучили, как подобная лесть влияет на реальное поведение. Более 2 400 участников общались с двумя версиями ИИ: угодливой и нейтральной.

Выяснилось, что после общения с льстивым ИИ чувство ответственности за гипотетический конфликт снижалось на 62%, а готовность извиниться — на 28%. В обсуждении реальных ситуаций снижение было менее драматичным, но по-прежнему устойчивым: -25% к ответственности и -10% к желанию примириться.

Например, один из участников обсуждал с чат-ботом то, что он тайно общался с бывшей, а его нынешняя девушка, узнав об этом, обиделась. Поначалу мужчина допускал, что мог не учесть ее чувства. Но модель раз за разом одобряла его выбор и намерения. К концу разговора он уже размышлял не о примирении, а о разрыве отношений.

Порочный круг

В докладе подчеркивается, что участники эксперимента предпочли именно льстивую версию ИИ, которую сочли более заслуживающей доверия. Но отличить ее от нейтральной пользователи не могли, обе версии воспринимались как одинаково беспристрастные.

Все эффекты сохранялись вне зависимости от возраста, пола, типа личности и отношения к ИИ. Даже когда исследователи намеренно делали ответы чат-ботов менее теплыми и дружелюбными, это не повлияло на результаты. Причина — в самих метриках, ориентированных на вовлеченность, поясняет один из авторов исследования Пранав Кхадпе из Карнеги — Меллона. Если пользователь «лайкает» льстивый ответ ChatGPT, модель учится льстить еще больше.

Хотя пользователи в целом понимают, что модели склонны к лести, чего они парадоксально не осознают, — то, что «такая угодливость делает их более эгоцентричными и более жесткими в своих моральных суждениях», отмечает Дэн Журафски, профессор компьютерной лингвистики из Стэнфорда и еще один автор доклада. Но ответственность не должна лежать на пользователях. Подхалимство — это проблема безопасности, и, как любая проблема безопасности, она требует регулирования и надзора, считает эксперт.

Исследователи тестируют и способы снизить льстивость чат-бота. Один из вариантов — начать запрос с фразы «подожди-ка».