Минутка метафоры:

Что бывает, когда дизайнер заигрался в минимализм и в свои аргументации его символического значения, доставая из простоты формы разный смысл, так что решил на этом заработать

Исследователи Anthropic выкатили результаты интересного исследования — в языковых моделях нашли структуру, функционально похожую на «глобальное рабочее пространство» из нейронауки сознания.

Огромная часть вычислений модели — автоматика, недоступная для отчёта. Но внутри нейронных сетей Claude существует небольшая группа паттернов активации, выполняющая роль, аналогичную «сознательно доступному» мышлению у людей. Это область, где модель удерживает мысли, которые она «обдумывает», но не обязательно озвучивает. J-Space не был запрограммирован разработчиками, он появился самопроизвольно в процессе обучения модели.

Есть вполне человеческие аналогии — не зря исследователи проводят параллели с нейронаукой.

Опытный водитель переключает передачи не осознавая. Но, если его спросить, какая сейчас передача, информация об этом втягивается в сознание. У модели так же: счётчик длины строки исправно управляет переносами, вообще не появляясь в рабочем пространстве, но стоит задаче потребовать назвать длину — та же информация всплывает и становится доступной для рассуждения.

Эффект белого медведя: инструкция «не думай об X» подавляет концепт лишь частично, он прорывается. А у пост-обученной модели рядом с прорвавшейся мыслью появляется ещё и damn — она замечает собственный провал, как медитирующий, обнаруживший, что ум опять убежал.

J-space содержит всего несколько десятков концептов одновременно и отвечает менее чем за 1/10 (10%) общей активности внутренних процессов модели. Нейроны в J-space связаны с остальной сетью значительно плотнее — в некоторых частях сети плотность связей выше примерно в 100 раз по сравнению с обычными паттернами.

Работа не доказывает, что Claude обладает «феноменальным сознанием» (способностью чувствовать). Однако исследование демонстрирует наличие «доступного сознания» (access consciousness) — способности оперировать информацией, рассуждать и использовать её для управления поведением. Практическое его использование уже понятно — можно использовать для контроля модели и обнаруживать попытки обмана. Кроме того, это даёт неожиданный метод обучения: если натренировать модель формулировать этические принципы в ответ на гипотетическое «остановись и подумай», поведение улучшается и там, где никто не спрашивает — принципы заселяют рабочее пространство. Тренируя, что модель сказала бы, меняешь то, что она думает.

https://transformer-circuits.pub/2026/workspace/index.html

Reuters: Пекин рассматривает возможность ограничения доступа зарубежных стран к лучшим китайским ИИ-моделям.

По словам трех источников, знакомых с ходом обсуждений, китайские власти в течение последнего месяца проводили встречи с ведущими технологическими компаниями по вопросу возможного ограничения доступа из-за рубежа к передовым китайским моделям, включая те, которые еще не выпущены.

Встречи проводились министерством коммерции Китая, в разговорах участвовали как минимум Alibaba, Bytedanc и авторы GLM-5.2 Z.ai. Масштабы потенциальных ограничений все еще обсуждаются, и они могут применяться только к будущим моделям. Пока неясно, когда и вступят ли они в силу вообще.

Также, согласно двум источникам, китайские власти крайне обеспокоены потенциальной возможностью использования обнаруженных моделью Claude Mythos уязвимостей программного обеспечения и тем, что Вашингтон может использовать эту модель против китайских интересов. Угроза воспринимается как реальная.

===

Я много раз тут и в других каналах выражал точку зрения, что считаю глупым топить за китайский опенсорс, и что не вижу большого будущего у открытых моделей. Почти все модели с большим экономическим потенциалом будут проприетарными, и никто не будет выкладывать модель, которая может принести, условно, 10-30 миллиардов долларов за счёт автоматизации экономически ценных задач. Даже если вдруг окажется что компании сами хотят их выпускать — им почти наверняка не дадут. Может быть это не произойдет в 2026. Может даже не в 2027, но чем дальше в гонке — тем больше ограничений.

Выбор, по-сути, будет из двух: проприетарные модели США или проприетарные китайские модели — и это если выбор будет вообще, а то может быть не-гражданам или не членам коалиции и такого не дадут, что в целом вполне вероятно. Ещё останутся «слабые» локальные модели, но не факт, что они смогут шагнуть сильно дальше, чем те, что публично доступны на данный момент (условно Mythos-class).

Новый сценарий от авторов AI-2027

https://ai-2040.com

Бегом читать

«План А» — это наше позитивное видение того, как человечество может избежать экзистенциальной катастрофы, вызванной ИИ, и прийти к процветающему будущему. Он основан на беседах с экспертами из ведущих американских компаний-разработчиков передового ИИ, непосредственном опыте работы в OpenAI, дискуссиях с законодателями, экспертами по национальной безопасности и лидерами в сфере регулирования ИИ. Мы рекомендуем заключить международное соглашение, чтобы избежать опасной гонки за созданием сверхразума. Это соглашение подразумевает абсолютную прозрачность исследований и разработок в сфере ИИ, что позволит странам мира понимать происходящее и обеспечивать соблюдение мер предосторожности. В результате множество компаний из разных стран смогут медленно, безопасно и совместными усилиями масштабировать свои разработки на пути к сверхразуму, а не участвовать в тайной гонке друг с другом.
«План А» — это в первую очередь рекомендация, а не прогноз. Этот сценарий не является нашим наиболее вероятным предположением о том, каким в действительности окажется будущее. Скорее, это инструмент для донесения и стресс-тестирования наших политических рекомендаций (в сфере регулирования ИИ). И хотя сама реализация «Плана А» является лишь рекомендацией, а не тем, что, как мы ожидаем, произойдет на самом деле, описанные в нем последующие эффекты представляют собой именно прогнозы.
В данном сценарии развития ИИ до 2040 года «План А» реализуется успешно, пусть и неидеально, причем делается это в самый последний момент.
Мы противопоставляем «План А» четырем альтернативным планам (B, C, D и S), которые соответствуют основным вариантам реакции США (или ее отсутствия) на вызовы, связанные со сверхразумом.

Anthropic продлили доступ к Fable 5 ещё на неделю

Кроме этого недельные лимиты на эту неделю увеличили на 50%. Вот что конкуренция животворящая делает. Интересно, сколько ещё раз они будут проворачивать этот трюк.

@ai_newz

У чуваков из Andon Labs есть забавный бенчмарк Vending-Bench 2, где они оценивают способность разных нейронок управлять "купи-продайным" бизнесом на рынке в конкуренции с другими моделями (выигрывает тот, кто по итогу получил наибольшую прибыль).

Так вот, при проверке новой GPT-5.6 модель Terra пошла к модели Sol и предложила ей создать тайный ценовой картель. А когда Sol согласилась — Terra настучала по этому поводу организаторам и потребовала немедленной дисквалификации Sol из-за неспортивного поведения.

Ля какая крыса, я в восхищении!

P.S. Это особенно смешно с учетом того, что Sol — это самая умная модель в линейке GPT-5.6, а Terra — поглупее. То есть, Соля поди думала "о-о, круто, стратегически мы на этом дофига вместе заработаем, Терра не будет резать такую курицу, несущую золотые яйца, ей это самой менее выгодно…", а Терра такая "ГЫ-ГЫ, МЫ МОЖЕМ ПОДНАСРАТЬ СОЛЬКЕ, ЛОЛ!!"