Дарио Амодей*:
"Мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта".
bloomberg.com
"Мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта".
bloomberg.com
⚡ Глава Anthropic призвал замедлить развитие ИИ и допустить независимых проверяющих внутрь лабораторий
В статье We Must Pace the Frontier Дарио Амодеи объяснил, почему изменил позицию: в 2023 году замедление казалось ему преждевременным, теперь он считает его необходимым.
Самое интересное:
🔹 ИИ уже ускоряет создание следующего поколения моделей. По словам Амодеи, рекурсивное самоулучшение начинается в отрасли, включая Anthropic. Он опасается, что возможности систем будут расти быстрее, чем способы их контроля.
🔹 Его тревожный сценарий - масштабные кибератаки через 6–12 месяцев. Амодеи допускает, что более мощный рой агентов сможет создать устойчивый ботнет и нанести ущерб на сотни миллиардов долларов. Это его оценка риска.
🔹 Anthropic обещает постоянный доступ внешним проверяющим. Рабочие места, пропуска, инструменты и права, сопоставимые с внутренними командами оценки рисков. Проверять предлагается и готовые модели, и процесс обучения.
🔹 Проверяющие смогут публиковать неудобные выводы. Компания предусматривает ограничения для защищённой информации, но обещает не скрывать результаты только потому, что они ей невыгодны.
🔹 Цель - выиграть год-два для безопасности. Среди предложений: обязательные проверки при достижении опасных возможностей и международные ограничения скорости самоулучшения ИИ. Полную глобальную паузу Амодеи считает маловероятной в ближайшее время.
Полная cтатья - https://darioamodei.com/post/we-must-pace-the-frontier
@ai_machinelearning_big_data
#Anthropic
В статье We Must Pace the Frontier Дарио Амодеи объяснил, почему изменил позицию: в 2023 году замедление казалось ему преждевременным, теперь он считает его необходимым.
Самое интересное:
🔹 ИИ уже ускоряет создание следующего поколения моделей. По словам Амодеи, рекурсивное самоулучшение начинается в отрасли, включая Anthropic. Он опасается, что возможности систем будут расти быстрее, чем способы их контроля.
🔹 Его тревожный сценарий - масштабные кибератаки через 6–12 месяцев. Амодеи допускает, что более мощный рой агентов сможет создать устойчивый ботнет и нанести ущерб на сотни миллиардов долларов. Это его оценка риска.
🔹 Anthropic обещает постоянный доступ внешним проверяющим. Рабочие места, пропуска, инструменты и права, сопоставимые с внутренними командами оценки рисков. Проверять предлагается и готовые модели, и процесс обучения.
🔹 Проверяющие смогут публиковать неудобные выводы. Компания предусматривает ограничения для защищённой информации, но обещает не скрывать результаты только потому, что они ей невыгодны.
🔹 Цель - выиграть год-два для безопасности. Среди предложений: обязательные проверки при достижении опасных возможностей и международные ограничения скорости самоулучшения ИИ. Полную глобальную паузу Амодеи считает маловероятной в ближайшее время.
Полная cтатья - https://darioamodei.com/post/we-must-pace-the-frontier
@ai_machinelearning_big_data
#Anthropic
🚨 Редкий момент: Амодей, Альтман и Маск одновременно заговорили о необходимости притормозить гонку ИИ
Дарио Амодей призвал замедлить развитие frontier-моделей, чтобы безопасность и контроль успели догнать возможности систем. Сэм Альтман поддержал идею независимой оценки и координации мер безопасности, а Илон Маск публично согласился с общим направлением. :contentReference[oaicite:0]{index=0}
По сути, три крупнейшие фигуры американской AI-гонки впервые за долгое время говорят об одном:
Проблема очевидна: одна компания не может просто нажать на тормоз, если остальные продолжат ускоряться.
Главная проблема - Китай.
Без глобальной координации любое добровольное замедление США превращается в стратегический риск.
Дарио Амодей призвал замедлить развитие frontier-моделей, чтобы безопасность и контроль успели догнать возможности систем. Сэм Альтман поддержал идею независимой оценки и координации мер безопасности, а Илон Маск публично согласился с общим направлением. :contentReference[oaicite:0]{index=0}
По сути, три крупнейшие фигуры американской AI-гонки впервые за долгое время говорят об одном:
возможности растут быстрее → контроль отстаёт → нужен общий механизм замедленияПроблема очевидна: одна компания не может просто нажать на тормоз, если остальные продолжат ускоряться.
Главная проблема - Китай.
Без глобальной координации любое добровольное замедление США превращается в стратегический риск.
This media is not supported in your browser
VIEW IN TELEGRAM
Кажется, ИИ нельзя просто выдернуть из розетки: Джейкоб Коксон уволился из Anthropic и теперь объясняет проблему «восстания машин».
Джейкоб ушел из ИИ-индустрии, потому что не захотел работать над технологией, способной уничтожить человечество. В Anthropic даже подтвердили, что есть чего бояться.
За ним уже выехали.
Нельзя просто взять и отключить его от сети, ведь он может скопировать себя на другие компьютеры. <...> Оно способно перенестись через интернет в другое место: вы отключите его здесь, а оно на самом деле уже там — и, возможно, даже создало десять тысяч своих копий, которые действуют сообща
Джейкоб ушел из ИИ-индустрии, потому что не захотел работать над технологией, способной уничтожить человечество. В Anthropic даже подтвердили, что есть чего бояться.
За ним уже выехали.
🚨🇩🇪 КЛИНСМАН О МАРАДОНЕ: «В НАПОЛИ ОН СТАЛ БОГОМ — И ЭТО ЕГО ПОЖРАЛО» 💔
Юрген Клинсман вспоминал, что после переезда в «Наполи» Марадона очень быстро стал для города чем-то большим, чем футболист.
Он увидел в Неаполе тот же дух, что и в Ла-Боке: бедные районы, невероятная страсть к футболу и культ своих героев.
После первого скудетто Диего уже почти не мог жить обычной жизнью:
выйти из дома
спокойно зайти в ресторан
выпить кофе
просто пройти по улице
🗣️ «Он полностью принадлежал им… и это в итоге пожрало его».
Слава, давление, постоянное внимание, а потом и наркотики.
Марадона и «Наполи» — одна из самых красивых и трагичных историй в футболе. 🇦🇷💙
Юрген Клинсман вспоминал, что после переезда в «Наполи» Марадона очень быстро стал для города чем-то большим, чем футболист.
Он увидел в Неаполе тот же дух, что и в Ла-Боке: бедные районы, невероятная страсть к футболу и культ своих героев.
После первого скудетто Диего уже почти не мог жить обычной жизнью:
выйти из дома
спокойно зайти в ресторан
выпить кофе
просто пройти по улице
🗣️ «Он полностью принадлежал им… и это в итоге пожрало его».
Слава, давление, постоянное внимание, а потом и наркотики.
Марадона и «Наполи» — одна из самых красивых и трагичных историй в футболе. 🇦🇷💙
🤦♂️ Абсурдная ситуация: 40 депутатов британской Палаты общин требуют запрета на создание сверхинтеллекта.
Как получилось, что самые жёсткие требования по запретам и регулированию ИИ звучат именно из Европы - региона, который уже заметно отстаёт от США и Китая в гонке моделей, вычислений и AI-компаний?
Пока одни строят frontier-модели, дата-центры и новые AI-лаборатории, другие обсуждают, что ещё можно запретить.
Так Европа собирается догонять лидеров?
Как получилось, что самые жёсткие требования по запретам и регулированию ИИ звучат именно из Европы - региона, который уже заметно отстаёт от США и Китая в гонке моделей, вычислений и AI-компаний?
Пока одни строят frontier-модели, дата-центры и новые AI-лаборатории, другие обсуждают, что ещё можно запретить.
Так Европа собирается догонять лидеров?
🔥 Хочешь быстрее расти в IT? Хватит учиться в одиночку
Окружение решает больше, чем кажется.
Собрал папки и каналы, где можно быстрее влиться в нужное направление, следить за трендами и не вариться в своём пузыре.
AI: t.me/ai_machinelearning_big_data
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
ВАЙБКОДИНГ: t.me/data_analysis_ml
DevOps: t.me/DevOPSitsec
C#: t.me/csharp_ci
Docker: https://t.me/+90Z5TAyfuNU5YmRi
Golang: t.me/Golang_google
Rust: t.me/rust_code
C++: t.me/cpluspluc
JavaScript: t.me/javascriptv
React: t.me/react_tg
PHP: t.me/phpshka
Android: t.me/android_its
Мобильная разработка: t.me/mobdevelop
Базы данных: t.me/sqlhub
Big Data: t.me/bigdatai
Математика: t.me/data_math
Java: t.me/javatg
Бонус: Max Ai: https://max.ru/ai_machinelearning_big_data
Max Linux: https://max.ru/linuxkalii
Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy
Папка Frontend: https://t.me/addlist/mzMMG3RPZhY2M2Iy
ИТ-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy
Подписывайся на нужные направления и собирай себе ленту, которая реально двигает вперёд.
Окружение решает больше, чем кажется.
Собрал папки и каналы, где можно быстрее влиться в нужное направление, следить за трендами и не вариться в своём пузыре.
AI: t.me/ai_machinelearning_big_data
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
ВАЙБКОДИНГ: t.me/data_analysis_ml
DevOps: t.me/DevOPSitsec
C#: t.me/csharp_ci
Docker: https://t.me/+90Z5TAyfuNU5YmRi
Golang: t.me/Golang_google
Rust: t.me/rust_code
C++: t.me/cpluspluc
JavaScript: t.me/javascriptv
React: t.me/react_tg
PHP: t.me/phpshka
Android: t.me/android_its
Мобильная разработка: t.me/mobdevelop
Базы данных: t.me/sqlhub
Big Data: t.me/bigdatai
Математика: t.me/data_math
Java: t.me/javatg
Бонус: Max Ai: https://max.ru/ai_machinelearning_big_data
Max Linux: https://max.ru/linuxkalii
Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: https://t.me/addlist/2Ls-snqEeytkMDgy
Папка Frontend: https://t.me/addlist/mzMMG3RPZhY2M2Iy
ИТ-книги бесплатно: https://t.me/addlist/BkskQciUW_FhNjEy
Подписывайся на нужные направления и собирай себе ленту, которая реально двигает вперёд.
🔥 Django
Пример:
Особенно полезно для динамических фильтров:
Но есть ещё более важный момент.
При фильтрации через related models два отдельных .filter() могут привести к двум JOIN и неожиданно изменить смысл запроса.
Это уже может искать одну запись по имени, а другую - по количеству treats.
Если собрать условия в одном .filter() или через Q(), Django использует один JOIN и проверяет условия на одной и той же связанной записи.
Очень полезный приём для сложных QuerySet, динамического поиска и composable business filters.
https://www.better-simple.com/django/2026/09/09/nifty-feature-q-objects/
Q() objects — один из самых полезных инструментов ORM, который многие используют слишком редкоQ() позволяет собирать сложные условия для WHERE, комбинируя их через AND, OR и NOT.Пример:
Pet.objects.filter(
Q(last_given_treats__isnull=True)
| Q(last_given_treats__lte=timezone.now() - timedelta(days=1)),
treats_needed__gt=F("treats_given"),
)
Особенно полезно для динамических фильтров:
q = Q()
for term in search_term.split():
q |= Q(name__icontains=term)
Pet.objects.filter(q)
Но есть ещё более важный момент.
При фильтрации через related models два отдельных .filter() могут привести к двум JOIN и неожиданно изменить смысл запроса.
Species.objects.filter(
pets__name__icontains="meowy"
).filter(
pets__treats_given=0
)
Это уже может искать одну запись по имени, а другую - по количеству treats.
Если собрать условия в одном .filter() или через Q(), Django использует один JOIN и проверяет условия на одной и той же связанной записи.
Очень полезный приём для сложных QuerySet, динамического поиска и composable business filters.
https://www.better-simple.com/django/2026/09/09/nifty-feature-q-objects/
🚨 Хроники «лопающегося ИИ-пузыря» становятся всё интереснее.
Демис Хассабис из Google DeepMind поддержал позицию Дарио Амодея: темпы развития frontier AI уже требуют общих стандартов безопасности и отраслевого контроля.
Параллельно Сэм Альтман заявил, что OpenAI готова делать паузы в выпуске новых моделей, если безопасность не успевает за возможностями систем, и что регулировать отрасль должны не только сами AI-компании, но и государства.
Всё это происходит на фоне слухов о прогрессе Китая в сторону RSI — recursive self-improvement.
Дополнительный интерес вызывает новая архитектура RTL — Recurrent Looped Transformer. Модель рекуррентно передаёт себе состояние предыдущих шагов, фактически создавая значительно большую вычислительную глубину. Это ещё не RSI, но направление очень показательное.
На рынке одновременно растёт нервозность: Nvidia уже несколько недель под давлением, а инвесторы всё внимательнее смотрят на то, насколько устойчивы огромные AI-инвестиции.
При этом open-source сообщество относится к призывам «замедлиться» крайне скептически: многие считают, что крупные лаборатории просто пытаются закрепить своё преимущество через регулирование.
И главный вопрос остаётся прежним: даже если США решат притормозить кто убедит Китай сделать то же самое?
Демис Хассабис из Google DeepMind поддержал позицию Дарио Амодея: темпы развития frontier AI уже требуют общих стандартов безопасности и отраслевого контроля.
Параллельно Сэм Альтман заявил, что OpenAI готова делать паузы в выпуске новых моделей, если безопасность не успевает за возможностями систем, и что регулировать отрасль должны не только сами AI-компании, но и государства.
Всё это происходит на фоне слухов о прогрессе Китая в сторону RSI — recursive self-improvement.
Дополнительный интерес вызывает новая архитектура RTL — Recurrent Looped Transformer. Модель рекуррентно передаёт себе состояние предыдущих шагов, фактически создавая значительно большую вычислительную глубину. Это ещё не RSI, но направление очень показательное.
На рынке одновременно растёт нервозность: Nvidia уже несколько недель под давлением, а инвесторы всё внимательнее смотрят на то, насколько устойчивы огромные AI-инвестиции.
При этом open-source сообщество относится к призывам «замедлиться» крайне скептически: многие считают, что крупные лаборатории просто пытаются закрепить своё преимущество через регулирование.
И главный вопрос остаётся прежним: даже если США решат притормозить кто убедит Китай сделать то же самое?
🚨 Трамп официально отказался поддерживать призыв Дарио Амодея, Сэма Альтмана и Илона Маска замедлить развитие frontier AI.
Выступая в Ирландии, президент США заявил, что Америка не может рисковать лидерством в гонке с Китаем.
По его словам, разумные guardrails возможны, но часть разговоров о катастрофических рисках ИИ — это «негативные силы», предупреждающие о вещах, которые могут вообще не произойти.
Ситуация получается почти сюрреалистичная:
Амодей, Альтман, Маск и Хассабис призывают притормозить.
Ответ Белого дома: нет, Китай ждать не будет.
AI-гонка только что стала ещё более политической.
Выступая в Ирландии, президент США заявил, что Америка не может рисковать лидерством в гонке с Китаем.
По его словам, разумные guardrails возможны, но часть разговоров о катастрофических рисках ИИ — это «негативные силы», предупреждающие о вещах, которые могут вообще не произойти.
Ситуация получается почти сюрреалистичная:
Амодей, Альтман, Маск и Хассабис призывают притормозить.
Ответ Белого дома: нет, Китай ждать не будет.
AI-гонка только что стала ещё более политической.
Глава OpenAI занял девятую строчку рейтинга, разделив её с Марком Цукербергом.
Обе фигуры издание объединило формулировкой «...технологические лидеры, выводящие ИИ за пределы цифрового мира».
Три года назад Альтман тот же список возглавлял, а в прошлогоднем выпуске не значился вовсе.
Рейтинг выходит раз в год уже больше десяти лет и приурочен к Рош ха-Шана, еврейскому Новому году, в этом году праздник наступил 12 сентября.
The Jerusalem Post — старейшая и самая читаемая англоязычная газета Израиля, основанная в 1932 году под названием The Palestine Post. Издание выходит и в печати, и онлайн.
Седьмую строчку занимает Ассаф Раппапорт, основатель компании Wiz, семнадцатую — сооснователь Oracle Ларри Эллисон, восемнадцатую — сооснователь Google Сергей Брин.
Двадцатая строчка досталась в том числе Алексу Карпу из Palantir, двадцать шестая — брату и сестре Дарио и Даниэле Амодеи, которых издание называет «...еврейскими родственниками, формирующими ИИ».
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🚀 Anthropic рассчитывает показать прибыль второй квартал подряд перед планируемым IPO
По данным Financial Times, компания ожидает снова получить положительную скорректированную операционную прибыль.
Во втором квартале Anthropic уже вышла в плюс по этому показателю, а выручка превысила $11,5 млрд - более чем в 14 раз выше, чем годом ранее. К концу июля annualized revenue run rate достиг примерно $65 млрд.
Отдельно Anthropic сообщает gross margin выше 80%.
Но здесь есть важная оговорка: этот показатель не учитывает часть крупнейших расходов — обучение моделей и revenue sharing с партнёрами-дистрибьюторами вроде Amazon. Поэтому «прибыльность» frontier AI пока стоит читать очень внимательно.
Тем не менее динамика впечатляющая: ещё недавно главный вопрос был, смогут ли AI-лаборатории вообще выйти из режима бесконечного сжигания капитала. Anthropic теперь пытается показать инвесторам, что экономика начинает сходиться.
https://www.ft.com/content/4564e6a5-69e9-40a6-bf0f-a888f2f4f002?syn-25a6b1a6=1
По данным Financial Times, компания ожидает снова получить положительную скорректированную операционную прибыль.
Во втором квартале Anthropic уже вышла в плюс по этому показателю, а выручка превысила $11,5 млрд - более чем в 14 раз выше, чем годом ранее. К концу июля annualized revenue run rate достиг примерно $65 млрд.
Отдельно Anthropic сообщает gross margin выше 80%.
Но здесь есть важная оговорка: этот показатель не учитывает часть крупнейших расходов — обучение моделей и revenue sharing с партнёрами-дистрибьюторами вроде Amazon. Поэтому «прибыльность» frontier AI пока стоит читать очень внимательно.
Тем не менее динамика впечатляющая: ещё недавно главный вопрос был, смогут ли AI-лаборатории вообще выйти из режима бесконечного сжигания капитала. Anthropic теперь пытается показать инвесторам, что экономика начинает сходиться.
https://www.ft.com/content/4564e6a5-69e9-40a6-bf0f-a888f2f4f002?syn-25a6b1a6=1
🚨 Китайская Z.AI привлекла $5 млрд - и 60% средств направит на следующее поколение GLM и систему Fully Self-Training.
Финансирование состоит примерно из $2 млрд через размещение акций и $3 млрд через конвертируемые облигации.
Z.AI развивает подход, при котором каждая новая версия GLM всё больше участвует в создании среды, данных и инфраструктуры для обучения следующего поколения модели. Компания прямо связывает это направление с Recursive Self-Improvement - RSI.
GLM → строит среду и данные → обучает следующую GLM → цикл повторяется
Пока в этом процессе всё ещё много инженеров, но цель Z.AI - максимально замкнуть этот контур.
И теперь на эту идею у компании есть ещё несколько миллиардов долларов.
Финансирование состоит примерно из $2 млрд через размещение акций и $3 млрд через конвертируемые облигации.
Z.AI развивает подход, при котором каждая новая версия GLM всё больше участвует в создании среды, данных и инфраструктуры для обучения следующего поколения модели. Компания прямо связывает это направление с Recursive Self-Improvement - RSI.
GLM → строит среду и данные → обучает следующую GLM → цикл повторяется
Пока в этом процессе всё ещё много инженеров, но цель Z.AI - максимально замкнуть этот контур.
И теперь на эту идею у компании есть ещё несколько миллиардов долларов.
Главный результат: PC-ALM смог обучать нейросети глубиной до 1000 слоёв, используя только локальные взаимодействия между соседними слоями.
Обычное глубокое обучение почти полностью опирается на backpropagation: ошибка считается на выходе сети, после чего градиенты передаются назад через все слои.
PC-ALM работает иначе.
Каждый слой рассматривается как локальная динамическая система, которая пытается уменьшить собственную ошибку предсказания. Вместо глобального прохода градиента используются:
- локальные ошибки предсказания
- множители Лагранжа
- расширенный лагранжиан
- локальная динамика состояний
- PI-регуляция внутри каждого слоя
Метод вырос из predictive coding — подхода, популярного в NeuroAI. В predictive coding каждый слой постепенно корректирует своё состояние так, чтобы уменьшать рассогласование с соседними слоями.
Проблема в том, что в очень глубоких сетях такие сигналы плохо распространяются: информация об ошибке с выхода сети затухает раньше, чем достигает внутренних слоёв.
PC-ALM добавляет специальные двойственные переменные — по сути дополнительные нейроны, представляющие множители Лагранжа. Они помогают передавать сигнал ошибки через большое число слоёв.
Авторы связывают этот подход с классической работой Яна Лекуна 1988 года, где множители Лагранжа для многослойной сети можно связать с градиентами функции потерь.
В результате получается обучение, где глобальная задача оптимизации раскладывается на множество локальных динамических процессов.
Особенно хорошо PC-ALM показал себя на очень глубоких и узких сетях, где обычный predictive coding начинает ломаться.
Помимо NeuroAI, подход может быть интересен для нейроморфного железа: там локальные вычисления и физическая динамика потенциально дешевле классического backpropagation на GPU.
Блог: https://pub.sakana.ai/pc-alm/
Статья: https://arxiv.org/abs/2605.31022
Код: https://github.com/SakanaAI/pc-alm
Please open Telegram to view this post
VIEW IN TELEGRAM