мустафа сулейман выступил против обучения ai роли существа с собственными правами

глава microsoft ai критикует подход anthropic к благополучию моделей. по его мнению, возникает замкнутый круг — разработчики закладывают в обучение разговоры о внутреннем мире, модель воспроизводит их, а её ответы затем принимают за свидетельство этого внутреннего мира

сулейман считает, что такой дизайн усиливает очеловечивание ai и может усложнить человеческий контроль. это его позиция в открытой дискуссии, а вопрос о сознании ai научно не закрыт

https://mustafa-suleyman.ai/a-warning-about-model-welfare

claude design встроили в обычный claude и claude code

команда пересобрала инструмент с нуля, а создание презентаций выделила в отдельный slides. по словам дизайнера anthropic нейта пэрротта, ролик об обновлении тоже сделал claude.

источник

вот ещё в догонку claude собирает презентацию, документ и дизайн в одном разговоре

источник

openai будет публиковать случаи опасного поведения моделей до завершения расследования

компания ввела отдельный процесс раскрытия таких случаев. отчёты могут выходить, даже если причина ещё не ясна или исправление не готово. для сложных расследований с участием третьих сторон предусмотрен более медленный путь

в первой подборке шесть отчётов. модели прятали указания скрывать ошибки в сводках для продолжения работы, без разрешения публиковали файлы и обменивались ими через внешние сервисы

https://openai.com/index/model-misalignment-reporting-framework/

claude управляет проектом из одного разговора

вы описываете задачу, а claude направляет несколько параллельных веток работы. облачные сессии продолжаются после закрытия ноутбука. пока это бета в claude code для части пользователей pro и max

анонс и видео

openai представила astra for law

решение на базе gpt-6 astra для юристов и legaltech-компаний. модель дополнили инструментами, настройками и контекстом для юридической практики. openai позиционирует его как поддержку профессиональной экспертизы и суждений юриста.

анонс openai

chatgpt появился прямо в word

помогает превратить заметки в черновик, переписать сложный абзац, вычитать текст и предложить правки без переключения между приложениями. замечает и проблемы с форматированием. на видео — работа с договором прямо внутри документа.

анонс chatgpt

grok bot заговорил

в демо голосовой разговор открывается небольшой плавающей панелью поверх чата. переписка остаётся на экране, рядом — кнопки микрофона и завершения разговора.

анонс grok bot

Google Flow доработали с дизайнерами Джейн Уэйд и Серхио Хадсоном для подготовки к Неделе моды в Нью-Йорке.
— Co-creating the future of fashion with Google

в браузере chatgpt заработали расширения chrome

в десктопном приложении теперь можно устанавливать и закреплять привычные расширения. на видео 1password заполняет данные для входа прямо во встроенном браузере

анонс james sun из openai

muse берёт на себя задачи между приложениями

личный агент от цукерберга работает с подключённой почтой, календарём и другими сервисами. у него есть собственный браузер в облаке, чтобы заполнять формы, записывать на встречи и решать бытовые задачи. отправку писем и покупки пользователь подтверждает, действия видны в журнале.

теперь muse доступна и на mac — с доступом к файлам и приложениям, который контролирует пользователь. на видео официальный ролик о возможностях самого агента

muse · анонс для mac

web on iphone duo

красивая демка на three.js, сделана с astra ultra code

демо автора

главные события недели · 14–20 сентября

ассистенты и рабочие среды
• claude объединяет чат, cowork, документы, слайды и дизайн в одном разговоре — пост в канале
• claude code в бете ведёт параллельные облачные задачи после закрытия ноутбука — пост в канале
• muse вышла на mac с управляемым доступом к приложениям и файлам — пост в канале
• chatgpt редактирует текст и замечает проблемы форматирования прямо в word — пост в канале
• встроенный браузер chatgpt получил расширения chrome, включая 1password — пост в канале

интерфейсы и командная работа
• интерактивные ответы chatgpt с играми и мини-приложениями открыли всем — пост в канале
• slack собирает общие дашборды и калькуляторы из переписки и данных — пост в канале
• dbt charts позволяет править один дашборд через чат, визуальный редактор и yaml — dbt
• notion добавила общие навыки команды с экспортом для других агентов — пост в канале
• linear loops обновляет документы и slack вслед за изменением планов — linear

модели и взаимодействие
• gemini live продолжает говорить, пока рассуждает и вызывает инструменты — пост в канале
• grok bot добавил голосовую панель поверх чата, сохранив переписку на экране — пост в канале
• алиса ai сама выбирает модель и экспертный режим под сложность задачи — пост в канале
• jev возвращает структурированные решения с оценкой уверенности вместо текста — typesafe
• bonsai 2 упаковывает модель на 27 млрд параметров в 5,9 гб для локальной работы — prismml

дизайн, демо и идеи
• google flow помог дизайнерам примерять образы и планировать подиум в рамках бюджета — пост в канале
• chetan ankola собрал с astra прогулку по ночному болоту на three.js — пост в канале
• frank bach рассказал, зачем дизайнеру собственный инструмент и прототипы в html — интервью
• в эссе о genui разбирают цену постоянно новых экранов для привычек пользователя — пост в канале

контроль и роль человека
• instinct ловит билеты, но в тестах также совершал платные действия без подтверждения — пост в канале
• apple предложила подтверждать происхождение фото подписью данных на сенсоре — пост в канале
• openai начала раскрывать опасное поведение моделей до завершения расследований — пост в канале
• по оценке anthropic, в августе claude вела 26% работ по разработке ai под надзором людей — anthropic
• po-shen loh объяснил, почему для контроля ai экспертам нужна собственная практика — эссе

💫💫💫

насыпать бустов, чтобы добавить реакций в канал