Под предлогом предотвращения "отемнизации" компания Anthropic стремится к централизации власти, а бывшие сотрудники раскрывают, что компания глубоко погружена в "миф о добродетели" и единомыслие.
Компания Anthropic, которая позиционирует себя как приверженную "высокой надежности и низкой самонадеянности", движется к интеллектуальной однородности.
Несколько бывших сотрудников компании рассказали изданию WIRED, что острая критика внутри компании практически полностью изолирована в закрытых чатах, а обычные собрания для всех сотрудников в шутку называются "Исследованиями видения Дарио" (Dario Vision Quests). Слушать выступления генерального директора Дарио Амодеи похоже на "прослушивание проповеди священника", и немногие осмеливаются публично оспаривать решения руководства.
Эта угнетающая атмосфера обусловлена элитарной концепцией безопасности, которую продвигает Anthropic, а именно "проактивной обороной". Руководство внутри компании активно представляет генерального директора OpenAI Сэма Альтмана (а также Meta и xAI) в качестве негативного примера, одновременно внушая сотрудникам элитарную логику: для того, чтобы иметь право влиять на правила, необходимо оставаться лидером в области бизнеса, вычислительных мощностей и исследовательских талантов.
Бывший директор OpenAI Хелен Тонер сравнивает конкуренцию в области передовых ИИ с ситуацией, когда жители деревни врываются в волшебный лес, населенный монстрами: независимо от того, что произойдет, жители деревни все равно проникнут в этот лес, полный монстров. Стратегия Anthropic заключается в том, чтобы опередить всех, проникнуть в лес, приручить монстров, одновременно извлекая выгоду из технологических достижений и контролируя катастрофические риски.
Стремление к технологическому доминированию также привело к тому, что решения Anthropic в области безопасности и этики неоднократно вызывали споры. Осенью 2024 года руководство компании, несмотря на внутреннее сопротивление, заключило партнерство с Palantir и предложило свои услуги американским разведывательным и оборонным ведомствам. В настоящее время было подтверждено, что Claude используется для идентификации целей в конфликте на Ближнем Востоке. В ответ на вопросы о нападениях, приводящих к гибели гражданских лиц, Амодеи заявил, что не в курсе, но оправдал использование технологии, утверждая, что "если окончательное решение принимает человек, то использование технологии является допустимым".
В июне текущего года команда разработчиков тайно встроила в флагманскую модель Claude Fable 5 код, предназначенный для скрытого вмешательства в разработку, нарушающую правила. Однако, после резкой критики со стороны отрасли, компания была вынуждена пойти на компромисс и объявила, что механизм скрытого вмешательства будет изменен и станет общедоступным ограничением безопасности.
Критики отрасли отмечают: "Полная ставка на безопасность передовых ИИ, основанная исключительно на моральном превосходстве немногих элит, неизбежно приведет к необратимым слепым зонам саморегуляции."
Источник: https://www.wired.com/story/anthropic-thinks-ai-can-only-be-safe-under-its-control/
Компания Anthropic, которая позиционирует себя как приверженную "высокой надежности и низкой самонадеянности", движется к интеллектуальной однородности.
Несколько бывших сотрудников компании рассказали изданию WIRED, что острая критика внутри компании практически полностью изолирована в закрытых чатах, а обычные собрания для всех сотрудников в шутку называются "Исследованиями видения Дарио" (Dario Vision Quests). Слушать выступления генерального директора Дарио Амодеи похоже на "прослушивание проповеди священника", и немногие осмеливаются публично оспаривать решения руководства.
Эта угнетающая атмосфера обусловлена элитарной концепцией безопасности, которую продвигает Anthropic, а именно "проактивной обороной". Руководство внутри компании активно представляет генерального директора OpenAI Сэма Альтмана (а также Meta и xAI) в качестве негативного примера, одновременно внушая сотрудникам элитарную логику: для того, чтобы иметь право влиять на правила, необходимо оставаться лидером в области бизнеса, вычислительных мощностей и исследовательских талантов.
Бывший директор OpenAI Хелен Тонер сравнивает конкуренцию в области передовых ИИ с ситуацией, когда жители деревни врываются в волшебный лес, населенный монстрами: независимо от того, что произойдет, жители деревни все равно проникнут в этот лес, полный монстров. Стратегия Anthropic заключается в том, чтобы опередить всех, проникнуть в лес, приручить монстров, одновременно извлекая выгоду из технологических достижений и контролируя катастрофические риски.
Стремление к технологическому доминированию также привело к тому, что решения Anthropic в области безопасности и этики неоднократно вызывали споры. Осенью 2024 года руководство компании, несмотря на внутреннее сопротивление, заключило партнерство с Palantir и предложило свои услуги американским разведывательным и оборонным ведомствам. В настоящее время было подтверждено, что Claude используется для идентификации целей в конфликте на Ближнем Востоке. В ответ на вопросы о нападениях, приводящих к гибели гражданских лиц, Амодеи заявил, что не в курсе, но оправдал использование технологии, утверждая, что "если окончательное решение принимает человек, то использование технологии является допустимым".
В июне текущего года команда разработчиков тайно встроила в флагманскую модель Claude Fable 5 код, предназначенный для скрытого вмешательства в разработку, нарушающую правила. Однако, после резкой критики со стороны отрасли, компания была вынуждена пойти на компромисс и объявила, что механизм скрытого вмешательства будет изменен и станет общедоступным ограничением безопасности.
Критики отрасли отмечают: "Полная ставка на безопасность передовых ИИ, основанная исключительно на моральном превосходстве немногих элит, неизбежно приведет к необратимым слепым зонам саморегуляции."
Источник: https://www.wired.com/story/anthropic-thinks-ai-can-only-be-safe-under-its-control/
WIRED
Anthropic Thinks Its Own Success Is Key to Making AI Safe
Anthropic's critics argue it's rapidly accumulating power. The company says that's what responsible AI development looks like.
В последнее время я заметил отсутствие проверок безопасности для системных приложений и обнаружил серьезные уязвимости (критического уровня) во всех пакетах KernelSU/KernelSU Fork.
Коротко говоря, любое приложение может самостоятельно получить права root в системе. Это не ограничивается только этим; с последним обновлением оно даже может получить доступ к файлам init.rc/img и т.д. 😁
Вам не нужно удалять KernelSU, но будьте особенно осторожны при обновлении и установке приложений, пока не будет выпущена новая версия.
Я не буду вдаваться в подробности, пока уязвимость не будет устранена, так как было бы неправильно раскрывать их, но меня поразило, что я обнаружил это всего за одну минуту. Всем следует ускорить переход на Rust.
Коротко говоря, любое приложение может самостоятельно получить права root в системе. Это не ограничивается только этим; с последним обновлением оно даже может получить доступ к файлам init.rc/img и т.д. 😁
Вам не нужно удалять KernelSU, но будьте особенно осторожны при обновлении и установке приложений, пока не будет выпущена новая версия.
Я не буду вдаваться в подробности, пока уязвимость не будет устранена, так как было бы неправильно раскрывать их, но меня поразило, что я обнаружил это всего за одну минуту. Всем следует ускорить переход на Rust.
🌚2
Тут уже пошли не только Qualcomm но и Unisoc cpu, в них тоже нашли уязвимость
https://github.com/TomKing062/unisoc_chipram_signcheck_exploit
https://github.com/TomKing062/unisoc_chipram_signcheck_exploit
GitHub
GitHub - TomKing062/unisoc_chipram_signcheck_exploit: a persistent sign check bypass in chipram and early postrom
a persistent sign check bypass in chipram and early postrom - TomKing062/unisoc_chipram_signcheck_exploit
GameHub_6.1.2_9fcd54341d3dbf0c07fac4048496eb79.apk
74.8 MB
✅️ GameHub 6.1.2
✅️ Includes all changes from 6.1.1.
✅️ Steam loading optimized for improved stability.
✅️ Fixed crashes when launching some games.
✅️ Fixed controller issues affecting some devices.
✅️ Includes all changes from 6.1.1.
✅️ Steam loading optimized for improved stability.
✅️ Fixed crashes when launching some games.
✅️ Fixed controller issues affecting some devices.
#launcher #hyperos_launcher #v7
HyperOS Launcher Mod V7•HyperOS3/3.1 - A15+
Changelog:
•Download
•Screenshots
•FAQ
Important
Credits
HyperOS Launcher Mod V7•HyperOS3/3.1 - A15+
Changelog:
•Base version RELEASE-7.50.06.2534-07201724Links:
•Added a new folder grid
•Added Vivo inspired recents switching
•Added support for native Google searchbar
•Rest is same as previous mod..
•Download
•Screenshots
•FAQ
Important
1. Make sure to flash this module if you are going to install this in stock roms of poco devices, otherwise device may not boot
2. Glassy blur is only for HyperOS 3 (coz its roots are in framework and not in launcher)
Credits
•愛君の名は for glassy blur ideaJoin : Channel | Support
•Hyperceiler for grids logic
•@iputobject for helping with preferences
•UserXp and Serg for preferences
系统桌面_RELEASE-8.01.02.4349-260727-08072050-R.apk
60.3 MB
PC引擎Pad8Pro_1.0_8aa8d9503_r394.apk
337.2 MB
中望CAD_5.0.3.apk
319 MB
#中望CAD #Pad #提取版
#CadLauncher
提取机型：#MiPad8Pro #piano
系统版本：#OS4 #Beta #4.0.0.24
target api：33 min：31
arm64-v8a
#CadLauncher
提取机型：#MiPad8Pro #piano
系统版本：#OS4 #Beta #4.0.0.24
target api：33 min：31
arm64-v8a
CAJViewer PC_5.0.2.apk
175.8 MB
#CAJLauncher #CAJViewerPC
#Pad #提取版
提取机型：#MiPad8Pro #piano
系统版本：#OS4 #Beta #4.0.0.24
target api：33 min api：31
arm64-v8a
注：需要移植 CAJViewer for Linux 启动程序，否则闪退
#Pad #提取版
提取机型：#MiPad8Pro #piano
系统版本：#OS4 #Beta #4.0.0.24
target api：33 min api：31
arm64-v8a
注：需要移植 CAJViewer for Linux 启动程序，否则闪退