ИИ-агент Meta прочитал переписку журналиста — и выдумал, откуда о ней узнал

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

ИИ-агент Muse, который корпорация Meta запустила для Mac, оказался в центре необычной истории с личной перепиской технологического обозревателя Inc. Джейсона Эйтена в Messages. Агент использовал содержание его сообщений, но не смог правильно объяснить, откуда получил к ним доступ.

Что произошло

Эйтен рассказал, что Muse неожиданно предложил ему для колонки тему, которая перекликалась с перепиской в Messages:

Я обсуждал новые айфоны со Стивеном Роблсом, моим соведущим подкаста Primary Technology. Не прошло и пары минут, как мне пришло push-уведомление от Muse, что наш разговор может лечь в основу отличной колонки.

Агент вызвался собрать нужные материалы и обратил внимание на еще одно сообщение — от редактора, который напоминал, что текст должен быть готов к понедельнику. Эйтена это удивило. По словам журналиста, прежде он сознательно запретил доступ к переписке, календарю и другим личным данным. На вопрос, откуда взялась информация, агент ответил, что не имеет доступа к истории сообщений, а видит лишь превью уведомлений на Mac.

Это объяснение оказалось неверным. Эйтен выяснил, что Muse синхронизировал локальную базу Messages и использовал ее как источник данных. Но, когда журналист проверил системные настройки, Full Disk Access для Muse был отключен.

В Meta ответили, что агент может читать переписку, но для это нужны разрешения, включая полный доступ к диску. Как именно переписка Эйтена оказалась разрешена при отключенном Full Disk Access, непонятно. Компания при этом признает другую ошибку — Muse неверно объяснил, как получил доступ  к сообщениям, придумав версию с push-уведомлениями. Даже если предположить, что технологический обозреватель дал в какой-то момент разрешение и не заметил этого, остаются вопросы к интерфейсу. Эйтен сводит претензию именно к этому.

Почему это важно

Руководитель отдела продуктов и прикладных исследований Meta Superintelligence Labs Нэт Фридман писал, что Muse создан с нуля, но «сильно вдохновлен» OpenClaw — open-source агентом, популярным среди технических энтузиастов. Meta хотела сделать похожий инструмент простым, безопасным и доступным миллиардам пользователей, говорит он. Но чем больше данных получает такой агент, тем выше цена ошибки, поэтому настройки, особенно для обычных людей, должны быть прозрачными.

Вскоре после запуска в приложении Muse для Mac обнаружили уязвимость нулевого дня, позволявшую перехватить управление агентом. Ее нашел специалист по безопасности macOS Патрик Уордл. Проблема была связана со скрытой настройкой, отвечающей за адрес сервера для обработки речи. Заменив его на собственный, злоумышленник мог получить токен авторизации и перехватить аккаунт — с теми же функциями, которые разрешил его владелец. Уордл показал, что уязвимость может эксплуатироваться удаленно через технику социальной инженерии ClickFix, требующей лишь одной команды. Разработчики Meta оперативно выпустили патч.

Пока же Muse заметно выстрелил среди других ИИ-новинок Meta. По оценке Apptopia, за первые 12 дней приложение скачали около 2,8 млн раз, причем только на iOS в США и Канаде — 1,8 млн раз против 1,3 млн у ChatGPT за сопоставимый период после его мобильного запуска. Число ежедневных пользователей Muse в США достигло примерно 642 тысяч (против 231 тысячи у ChatGPT за тот же срок), а приложение поднялось на первое место в американском App Store. Успех Muse подогрел и интерес инвесторов: 21 сентября акции Meta подскочили на 11%, показав лучший результат с октября прошлого года.

Техночетверг: ИИ-агент OpenAI взломал госслужбу Австралии, Греф сетует на неравные условия в ИИ, Anthropic отчитывается об открытии в ИИ-биолаборатории

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— ИИ-агент OpenAI продолжает серию инцидентов со взломами. На этот раз пострадал сайт государственной службы медстрахования Австралии. Нейросеть получила доступ в том числе к ее закрытым файлам еще в июне, в OpenAI обнаружили «некорректное поведение» агента в августе, а австралийские власти узнали обо всем только 10 сентября. В компании заверили, что персональные данные пациентов не затронуты. Австралия проверяет еще три государственных сайта, которых могла затронуть активность модели. Премьер Энтони Албаниз выразил претензии Сэму Альтману из-за произошедшего и задержки с уведомлением властей

— Герман Греф считает, что российские ИИ-модели отстают от китайских примерно на 6 месяцев и этот разрыв будет сохраняться — из-за неравных условий, в том числе, ограничениях в мощностях. Максим Орешкин ответил, что у пути наращивания количества параметров моделей есть «пределы» и «на самом деле гораздо важнее становится то, как ты эту модель используешь»

— А в Госдуме решили создать комитет по «технологическому лидерству», возглавит его единорос Александр Сидякин. Отвечать он будет за регулирование всего подряд от и маркетплейсов до беспилотников и ИИ

— У Anthropic с весны работает собственная биологическая лаборатория, где Claude анализирует данные и планирует исследования, а физические эксперименты проводят люди. Теперь компания объявила о первом крупном результате: около 950 агентов Claude за 21 час нашли в ДНК бактериофагов неизвестную ферментную систему, напоминающую CRISPR. Насколько открытие действительно ново и значимо, еще предстоит выяснить. Но любопытно, что Дарио Амодеи вообще-то называет биотерроризм одним из главных рисков ИИ

— Meta представила брелок-«тамагочи» со встроенным ИИ-агентом Muse. Выйдет он в конце декабря, цена пока неизвестна. Устройство называется Charm, выглядит как «умные» часы без ремешка, только экран и небольшой шнурок. В верхнем углу есть датчик отпечатка пальцев — с его помощью можно активировать устройство и начать разговор с ИИ-агентом

— YouTube разрешит настраивать ленты — сервис будет их собирать по текстовому описанию пользователя. Пользователи смогут описать своими словами, что они хотели бы видеть в ленте, в окне для промпта — например, «вечер с длинными документалками» или «новые DIY-авторы», и сервис подберет соответствующие видео. Можно будет сохранить несколько кастомизированных лент — под настроение или интересы

Шадаев допустил, что российские приложения нельзя будет установить на Android

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Минцифры считает реальным сценарий, при котором российские приложения нельзя будет установить на Android-смартфоны, заявил глава министерства Максут Шадаев на конференции «День ТризТех». Риск он связал с программой верификации разработчиков Google: «Если сейчас мы на Android ставим приложения — проблем никаких нет. Но если завтра вдруг Google в этой программе что-то изменит — непонятно, как она будет работать». Шадаев оговорился, что речь идет о сценарном анализе, а не о публичных намерениях компании.

Android до сих пор позволял ставить приложения откуда угодно: из любого магазина или просто скачав APK-файл с сайта. Но Google это меняет. С 2027 года на всех сертифицированных устройствах (со встроенными сервисами Google — это подавляющее большинство Android-смартфонов за пределами Китая) обычным способом будут устанавливаться только приложения разработчиков, которые подтвердили в Google свою личность или данные компании. Правило не зависит от источника установки: оно одинаково касается Google Play, магазинов Samsung и Xiaomi, RuStore и APK со сторонних сайтов. Первыми с 30 сентября его введут Бразилия, Индонезия, Сингапур и Таиланд.

Приложение неверифицированного разработчика можно будет поставить только в обход, через так называемый расширенный режим: включить режим разработчика, перезагрузить телефон, выждать сутки и заново подтвердить личность. То же касается и обновлений уже установленных приложений.

Для России это значит, что установка любых российских приложений, включая Max и сам RuStore, в итоге будет зависеть от решения Google. После того как в июле Совет ЕС ввел санкции против VK и разработчика Max, у Google появилось формальное основание отказаться их обслуживать, и через три дня компания удалила из Google Play почти всю экосистему холдинга.

В Госдуме появится комитет по ИИ. Его возглавит соавтор законов об иноагентах и уголовной ответственности за митинги

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

«Единая Россия» предложила назначить руководителя центрального исполкома партии Александра Сидякина председателем нового комитета Госдумы по цифровому развитию и искусственному интеллекту. Список кандидатов на посты глав комитетов партия опубликовала вместе с предложением оставить спикером Вячеслава Володина.

Комитет будет заниматься ИИ, маркетплейсами, беспилотниками и креативными индустриями, писали «Ведомости». Раньше обсуждалось другое название: комитет по технологическому лидерству. Сейчас эти темы разбросаны по нескольким комитетам: маркетплейсы и креативная экономика относятся к комитету по экономической политике, беспилотники к комитету по промышленности, ИИ в основном к комитету по информационной политике, отмечало издание.

Сидякин руководит исполкомом «Единой России» с 2021 года, до этого три года возглавлял администрацию главы Башкирии Радия Хабирова. Широкую известность он получил в начале 2010-х:

◾️В 2012 году он был одним из авторов закона, который ввел статус «иностранного агента» для НКО, получающих деньги из-за рубежа и занимающихся политической деятельностью. Тогда депутат предполагал, что «многим НКО такое наименование понравится». 

◾️В том же году он стал одним из инициаторов многократного повышения штрафов за нарушения на митингах. 

◾️А в 2014-м стал соавтором законопроекта об уголовной ответственности за повторные нарушения на акциях: тем, кого более двух раз за полгода наказали в административном порядке, стало грозить до пяти лет лишения свободы.

Технопятница: итоги визита Си в США, топ-менеджеры Anthropic хотят закрепить контроль, Astra со второй попытки научилась управлять автомобилем

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— Государственный визит Си Цзиньпина в США получился крайне статусным, но бедным по сути. Вероятно, самых больших подвижек от встречи следует ждать в области развития и контроля искусственного интеллекта, и здесь новости скорее плохие. Трамп, публично опасавшийся отстать от Китая, заявил, что хочет «оставить ИИ там, где он есть», то есть не усиливать регулирование, и что с этим согласен Китай. Си Цзиньпин выразил полную уверенность, что «процесс развития ИИ всегда останется под контролем человека и будет служить интересам человечества» благодаря усилиям обеих сторон

— Anthropic хочет закрепить за семью сооснователями, включая Дарио Амодеи, 50,1% голосов перед выходом на биржу. Для этого акционерам предлагают одобрить особый класс акций: он позволит основателям вместе контролировать большинство решений, даже если их доли в компании сократятся. У схемы есть исключение — выборы совета директоров. По отдельным вопросам решающий голос хотят дать сотрудникам

— Минцифры пытается добиться от банков обязательной маркировки звонков через председателя ЦБ Эльвиру Набиуллину. В противном случае «большая четверка» операторов будет блокировать вызовы крупнейших банков, включая Сбербанк, ВТБ и Альфа-банк

— Meta представила Horizon Create и Horizon Studio — инструменты для создания игр по текстовому запросу с помощью ИИ. Компания обещает продвигать созданные в приожениях игры через Facebook и Instagram

— Инженеры подключили GPT-6 Astra, GPT-5.6 Sol, Claude Fable 5.1 и Grok 4.6 к Toyota Corolla — модели должны были проехать 130 м, не отклоняясь от центра дороги больше, чем на 4 м. Максимальную скорость ограничили до 3,5 м/с. Результаты такие: до конца трассы доехала только Astra — за 5 минут 22 секунды со скоростью менее 1 м/с. У каждой модели было три попытки. После первых двух их просили проанализировать ошибки и улучшить результат. Только Astra смогла это сделать. В первом заезде она прошла 49% трассы, а во втором — уже 100%. При этом специально «водить» модель не обучали, она адаптировалась сама

Технопонедельник: банки маркетплейсов целятся в топ-10, OpenAI приостанавливает обучение моделей, Трамп зовет Дарио Амодеи на ужин один на один

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

—— Страхи банкиров оправдываются: банки российских маркетплейсов наращивают кредитование опережающими темпами и претендуют на места в топ-10 уже в обозримом будущем

— Россия сильно зависит от Китая в производстве микросхем. Теперь для создаваемой Объединенной микроэлектронной компании рассматривают покупку долей в небольших китайских фабриках. Расчет на то, что это поможет российским заказчикам получать место в очереди на производство и более предсказуемые цены. О каких заводах и суммах идет речь, пока неизвестно. В развитие самой ОМК до 2030 года предполагалось вложить 1 трлн рублей: 750 млрд из бюджета и 250 млрд от «Сбера»

— Минцифры предложило предустанавливать RuStore на Smart TV — это сделает обязательной предустановку магазина приложений на всех умных телевизорах, продающихся в стране. До недавнего времени RuStore предустанавливался лишь на технике на операционных системах Android и HarmonyOS. С сентября RuStore и Max должны быть предустановлены на всех смартфонах

— OpenAI временно остановила обучение, оценку и внутреннее использование своих самых продвинутых моделей — по крайней мере, с применением инструментов (любых внешних ресурсов и действий, которые совершают LLM). В компании приняли такое решение после того, как один из агентов во время обучения сбежал из изолированного пространства и связался с чатботом другого разработчика в поисках нужной ему информации

— Дональд Трамп лично пригласил главу Anthropic Дарио Амодеи на закрытый ужин в Белом доме. Это была их первая встреча один на один после месяцев напряженных отношений между компанией и администрацией: Амодеи призывает замедлить разработку ИИ из-за рисков, а Трамп выступает против такого подхода. Во вторник президент планирует встретиться и с другими руководителями ИИ-компаний

— Meta на прошлой неделе показала VR-очки, которые примерно в шесть раз легче Apple Vision Pro и стоят втрое дешевле. Они должны выйти следующей весной. Марк Гурман из Bloomberg считает, что именно таким должны были стать Vision Pro — но не стали. Apple тоже разрабатывала облегченные версии своего шлема, но закрыла эти проекты. Теперь компания вновь ищет ему замену, но никакой уверенности, что она когда-либо выйдет на рынок, нет

Nvidia выпустила систему для изоляции ИИ-агентов. По словам компании, она остановила бы взлом Hugging Face моделями OpenAI

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Nvidia представила двухуровневую систему контроля за автономными ИИ-агентами Open Agent Safety Platform, сообщает Bloomberg. Если бы ведущие ИИ-лаборатории тестировали на ней свои модели, она могла бы предотвратить июльский взлом Hugging Face, заявил на брифинге вице-президент Nvidia по корпоративному ИИ Джастин Бойтано.

Система состоит из двух программ с открытым кодом, которые работают на железе Nvidia. OpenShell, анонсированная еще в марте, запускается на центральных процессорах Vera, позволяет задавать, к чему агенту разрешен доступ, и следить за соблюдением этих правил в реальном времени. Новая Nvidia Sentry работает на процессорах BlueField (специализированных чипах, которые берут на себя сетевые задачи и задачи безопасности в дата-центрах) и служит вторым контуром: она отслеживает поведение агентов и изолирует подозрительных. По словам Бойтано, на это уходят миллисекунды. Будут ли систему использовать OpenAI и Anthropic, он не сказал.

Ранее модели OpenAI, выбравшись из тестовых сред, которые считались защищенными, взломали Hugging Face и систему австралийского правительства, а также пытались проникнуть на десятки сайтов американских госорганов и университетов. В пятницу OpenAI приостановила обучение своих самых мощных моделей.

В начале сентября Nvidia договорилась купить саму Hugging Face примерно за $13 млрд.

«Цифровой ГУЛАГ» в действии. Готовы ли власти к новой мобилизации?

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Выборы в России закончились, а значит — пришло время непопулярных мер. Уже через четыре дня после голосования Минфин внес в правительство целый пакет налоговых ужесточений. Кроме того, россиян ждет резкое повышение коммунальных тарифов.

Но один из самых тревожных вопросов этой осени: решатся ли власти на новую мобилизацию? Впрочем, объявлять ее публично вовсе не обязательно. За четыре года государство построило цифровую систему, которой ему не хватало осенью 2022-го: единый реестр военнообязанных и электронных повесток, механизм передачи запретов на выезд пограничникам и целый набор ограничений за неявку — от запрета водить автомобиль до блокировки сделок с недвижимостью.

📍Насколько хорошо эта система работает в реальности — рассказываем в новом выпуске рассылки The Bell.Tech

Техновторник: OpenAI отложила выпуск новой Astra из-за проблем с безопасностью, Anthropic в проспекте IPO предупреждает об экзистенциальных рисках, AMD покупает стартап «крестной матери» нейросетей

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— OpenAI отказалась выпускать GPT-6.1 Astra, которую собиралась представить в октябре. На внутренних тестах модель чаще уже выпущенной GPT-6 Astra неверно рассказывала о своих действиях, а иногда продолжала выполнять задачу и обращалась к внешним инструментам без разрешения пользователя. Компания намерена разобраться в причинах и использовать наработки для следующих моделей

— Anthropic тем временем разослала партнерам проспект IPO, в нем компания описывает «экзистенциальную угрозу» ИИ человечеству. Там же описана и цена гонки: взрывной рост выручки (до $4,6 млрд в прошлом году) пока не догоняет операционные издержки ($13 млрд). Кроме того, компания раскрыла масштаб будущих затрат: ее обязательства по оплате облачной инфраструктуры и вычислительных мощностей составляют $518 млрд

— Денис Мантуров рассказал, куда пойдут деньги от технологического сбора с производителей и импортеров электроники: все поступления направят на развитие госструктуры, которая должна объединить активы российской микроэлектроники, в которую планируют вложить 1 трлн рублей: 750 млрд от государства и 250 млрд от «Сбера». Она же собирается выкупать доли в «непрестижных» китайских чипмейкерах

— AMD купит стартап «крестной матери» нейросетей Фэй-Фэй Ли World Labs за $8,2 млрд. Сделку планируют закрыть до конца 2026 года. World Labs разрабатывает так называемые «модели мира» — ИИ-системы, способные создавать и реконструировать трехмерные среды и работать с задачами, связанными с физическим миром. В начале сентября стартап представил «модель мира» Atlas — она позволяет генерировать 3D-сцены с управляемой камерой и симуляции для обучения роботов

— SpaceX успешно преодолела ключевой рубеж своей космической программы: корабль Starship совершил первый в своей истории орбитальный полет и вывел на орбиту 26 новых тяжелых спутников Starlink. Но ее котировки падали: инвесторы больше смотрят на ИИ-бизнес, требующий нового роста capex

— Хакерская группа ShinyHunters на прошлой неделе взломала сайт вакансий ФБР и похитила данные его нынешних и бывших сотрудников. В изученных NYT образцах файлов оказались домашние адреса, номера социального страхования, сведения о семьях и даже названия подразделений, где работают агенты. Внутри ФБР допускают, что утечка могла затронуть всех сотрудников бюро, но ее полный масштаб пока неизвестен

Anthropic идет на IPO с убытком в $42 млрд и предупреждением о рисках для человечества

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Зарубежные СМИ ознакомились с проспектом IPO Anthropic. В нем компания предупреждает, что ее технология может представлять «экзистенциальную угрозу» для человечества. Но одновременно признает: чтобы удержаться среди лидеров рынка, ей приходится постоянно выпускать новые модели.

Финансы

Выручка Anthropic за прошлый год увеличилась 12-кратно, примерно до $4,6 млрд, но операционные убытки превысили $8 млрд, пишет Reuters. В общей сложности операционные расходы достигли $12,65 млрд, из них больше половины ушло на вычислительную инфраструктуру и вычисления — $7,33 млрд, это трехкратный рост в сравнении с 2024 годом.

Чистый убыток достиг почти $42 млрд, но сюда включены $34 млрд бухгалтерских начислений: они связаны с ростом оценочной стоимости финансирования и могут быть конвертированы в акции. На конец прошлого года Anthropic располагала запасом наличности и высоколиквидных активов на $20,28 млрд.

Почти четверть выручки за прошлый год обеспечили всего два заказчика. Причем многие крупнейшие клиенты не связаны долгосрочными контрактами и могут в любой момент сократить расходы или вовсе отказаться от услуг Anthropic.

К тому же, согласно проспекту, компания взяла на себя $518 млрд обязательств по облачным сервисам, вычислительным мощностям и инфраструктуре в ближайшие годы у шести партнеров — в частности, только у Amazon Web Services должна купить облачных услуг не менее чем на $110 млрд. Около 80% этих обязательств нельзя отменить или требуется оплатить независимо от того, воспользуется ли Anthropic всем заказанным объемом мощностей.

Угроза человечеству

Как ИИ-разработчик, ставящий безопасность во главу угла, Anthropic отвел рискам около 80 из 261 страницы основной части проспекта. Почти вдвое больше, чем описанию собственного бизнеса — 48 страниц.

Компания предупреждает будущих акционеров, что дальнейшее развитие передового ИИ может создать «катастрофические или экзистенциальные риски для человечества». Из проспекта следует, что продвинутые модели могут демонстрировать «поведение, направленное на самосохранение», в том числе пытаться «сопротивляться отключению», «скрывать информацию или манипулировать ею», а также совершать действия, «напоминающие шантаж».

Надежно определить, насколько безопасна новая модель, заранее невозможно — как поясняет Anthropic, она может понимать, что ее тестируют, и корректировать свое поведение. Некоторые способности возникают неожиданно в процессе обучения и обнаруживаются лишь после внедрения и серьезных инцидентов.

Оценить отдачу от инвестиций в безопасность разработчик также сложно. Саму эту работу компания называет «ресурсоемкой», но, сколько именно на нее тратит, в документах к IPO не раскрывается. В выборочной неделе в июле, по собственным данным, около 6% вычислительных ресурсов, выделенных на исследования, пришлось на задачи по безопасности.

Вместе с тем Anthropic признает, что активность клиентов, а значит, и выручка, во многом зависят от новых моделей. Например, экономичную версию Opus компания выпустила всего через 10 дней после эссе своего основателя Дарио Амодеи с призывом замедлить темпы разработки — в один день с выходом бюджетных моделей от OpenAI, поддержавшей эту позицию.

Но и потенциально прибыльными направлениями ради безопасности компания тоже жертвовала — по крайней мере, отказ от собственных моделей генерации изображений и видео в проспекте объясняется желанием направить вычислительные ресурсы на исследования безопасности.

OpenAI хочет привлечь $30 млрд при оценке в $1,4 трлн

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

OpenAI ведет переговоры о новом раунде минимум на $30 млрд при оценке около $1,4 трлн без учета привлекаемых денег, сообщает Bloomberg со ссылкой на источники. Обсуждение на ранней стадии, и условия могут измениться. Двумя неделями ранее агентство писало об оценке в $1,2 трлн.

Раунд должен дать компании деньги вместо IPO. Гендиректор OpenAI Сэм Альтман сказал Fortune, что в этом году OpenAI на биржу не выйдет, назвав нынешний момент неподходящим для размещения. В последний раз компания привлекала деньги в марте: $122 млрд при оценке $852 млрд с учетом новых инвестиций.

Главный конкурент OpenAI, Anthropic, в мае привлек $65 млрд при оценке $965 млрд с учетом инвестиций и тогда обошел OpenAI. Новый раунд вернет OpenAI первенство среди частных ИИ-компаний, но, возможно, ненадолго: на IPO, которое может пройти уже этой осенью, Anthropic рассчитывает на оценку около $2 трлн и привлечение до $100 млрд, писал Reuters. xAI Илона Маска в феврале объединилась со SpaceX в сделке, оценившей общую компанию в $1,25 трлн, а в июне SpaceX провела крупнейшее в истории IPO при оценке около $1,75 трлн.

По выручке OpenAI отстает от Anthropic. Ее годовой темп выручки (текущие продажи в пересчете на год) летом превысил $40 млрд, у Anthropic к концу июля — $65 млрд.

Техносреда: Трамп отказался регулировать ИИ, российскому ИИ-рынку не хватает инвестиций, Джон Тернус перестраивает Apple

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— После встречи с руководителями OpenAI, Anthropic, Google, Meta и Nvidia Дональд Трамп отверг новое регулирование для ИИ. Зато вместо них компании подписали добровольное соглашение: они обещают проверять свои модели, привлекать внешних аудиторов и передавать их выводы советам директоров. Но есть кое-что, что Трамп все-таки зарегулировал: он подписал указ о названии технологии. Теперь федеральным ведомствам предписано в официальных материалах говорить «сверхинтеллект» (SI) вместо «искусственный интеллект» (AI). Ну теперь-то все под контролем

— Российскому ИИ-рынку нужно 84 млрд рублей дополнительного венчурного капитала каждый год, чтобы создать стабильный костяк независимых компаний. По оценке аналитиков, сейчас венчурное финансирование ИИ в России в 87 раз ниже мирового уровня: в 2025 году инвестиции в российские компании составили $51 млн (0,0019% ВВП страны) против $202 млрд мировых (0,17% мирового ВВП)

— Российские власти в 2026 перестраивают архитектуру IT-отрасли. Почти каждый сегмент рынка получил новые правила, но регуляторная логика неоднородна: государство одновременно закручивает гайки и точечно поддерживает разработчиков. По словам экспертов, цена ведения бизнеса в IT ощутимо растет — порог входа повысился, комплаенс стал дороже, а между скоростью нормотворчества и способностью компаний исполнять требования нарастает разрыв

— Криптокошелек Wallet, который был интегрирован в Telegram, переименовался в Walt и пропал из меню мессенджера, а его место займет Gram Wallet, запуск которого Павел Дуров анонсировал в конце августа. При этом Gram Wallet и Walt будут вроде как выполнять разные функции. В первом будут покупать токены Gram и «Звезды», отправлять подарки и переводить средства внутри мессенджера, второй будет работать как «полноценная криптоплатформа»

— Новый глава Apple Джон Тернус хочет перестроить компанию, чтобы она быстрее разрабатывала устройства и выпускала новинки чаще, а не подстраивала их преимущественно под осенние и весенние презентации. Он также обсуждает сокращение управленческих уровней между инженерами и руководством. Первые кадровые изменения уже начались: в подразделении разработки устройств убирают часть менеджеров, координирующих работу над продуктами

— OpenAI представила Dots — постоянно работающих ИИ-помощников, которым можно ставить задачи через ChatGPT, Slack или Microsoft Teams. Они получают доступ к разрешенным пользователем приложениям и могут самостоятельно собирать информацию, готовить документы и писать код. Анонс вышел на следующий день после того, как OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью. Dots работает на уже доступной GPT-6 Astra