#macapps #ai еще один интересный инструмент (чуть не написал для вайбкодеров, но конечно же для промпт-инженеров) - skillshare. Он позволяет синхронизировать скиллы (неожиданно, да?) между несколькими AI CLI типа Claude Code, Gemini и Codex.
skillshare.runkids.cc
AI CLI Skills Sync Tool | skillshare
One source of truth for AI CLI skills. Sync everywhere with one command.
#AI Красивое и неожиданное (ну почти). Сэм Альтман купил OpenClaw, а Питер Стейнберг присоединился к OpenAI.
#learning Алексей Рыбак из Devhands анонсировал бесплатный интенсив по системному дизайну. Записаться можно тут
devhands.ru
Основы Системного Дизайна
#startups Очень классная штука для фаундеров - ручной сабмит на 250+ площадок для стартапов, что должно дать рост заметности вашему проекту. А теперь самое интересное - у вас есть 2 дня, чтобы по промокоду FOUNDER199 получить скидку $100 на их услуги.
https://startupsubmit.app/
https://startupsubmit.app/
startupsubmit.app
StartupSubmit | Boost your SEO and Sales
The #1 manual submission service for AI & SaaS startups. Get listed on 300+ high authority directories. Start 2026 with traffic.
#AI Еще один интересный проект от Anthropic - плагин для Claude для работы с документами, работающий внутри Cowork. Делает ревью договоров с оценкой рисков, предлагает как их можно улучшить, проверяет на соответствие GDPR/CCPA, анализируйт NDA и многое другое. Но напомню, что на 100% не стоит полагаться на такие инструменты, в любом случае лучше всего проконсультироваться с юристом.
Claude
Legal – Claude Plugin | Anthropic
Speed up contract review, NDA triage, and compliance workflows for in-house legal teams.. Install this plugin to extend your workflow.
Forwarded from vlad kooklev — ai & agents
мне надоело платить 200$/мес за gpt pro и я построил своего агента для deep research (делюсь с вами кодом)
gpt pro даёт мощную глубину — модель реально копает тему заходами по 30 минут. но ты не контролируешь сам рисёрч: откуда она берёт данные, как фильтрует источники, почему решила что этот сайт достоверный. она постоянно тащит SEO-мусор и AI-слоп, но на это трудно повлиять
стандартная история — это репорты, где он пишет про «самые актуальные модели — sonnet 3.5 и gpt-4o», хотя к тому моменту модели сменились раз 5. в современном мире это непозволительно. я собрал вместо этого свой дип рисерч над claude code
мой пайплайн — 5 шагов:
— декомпозиция темы на ~8 аспектов через разные призмы (who, what, so what, avoid)
— параллельный рисёрч каждого аспекта агентами
— синтез находок
— red team — а что если всё это буллшит? проверка предположений с обратной стороны
— упаковка финальный отчёт
оркестрацией шагов занимается мой фреймворк — claude-pipe. плюс у меня есть мой личный slop-checker skill, который фильтрует источники по критериям.
каждый шаг — отдельный агент со своими инструкциями. не один промпт на всё, а конвейер где каждый этап проверяет предыдущий. одно исследование обходится в ~$1 через exa. значительно шире и глубже, чем gpt pro
выложил на гитхаб, просто дайте ссылку на него своему claude code / openclaw: github.com/bluzir/claude-pipe/tree/master/examples/research-pipeline
настоящий рисёрч — это система которую ты контролируешь. знаешь откуда данные, можешь поменять критерии, перезапустить один кусок не переделывая всё. я убежден, что в 2026 такая должна быть у каждого. с вас звездочки на гитхабе!
gpt pro даёт мощную глубину — модель реально копает тему заходами по 30 минут. но ты не контролируешь сам рисёрч: откуда она берёт данные, как фильтрует источники, почему решила что этот сайт достоверный. она постоянно тащит SEO-мусор и AI-слоп, но на это трудно повлиять
стандартная история — это репорты, где он пишет про «самые актуальные модели — sonnet 3.5 и gpt-4o», хотя к тому моменту модели сменились раз 5. в современном мире это непозволительно. я собрал вместо этого свой дип рисерч над claude code
мой пайплайн — 5 шагов:
— декомпозиция темы на ~8 аспектов через разные призмы (who, what, so what, avoid)
— параллельный рисёрч каждого аспекта агентами
— синтез находок
— red team — а что если всё это буллшит? проверка предположений с обратной стороны
— упаковка финальный отчёт
оркестрацией шагов занимается мой фреймворк — claude-pipe. плюс у меня есть мой личный slop-checker skill, который фильтрует источники по критериям.
каждый шаг — отдельный агент со своими инструкциями. не один промпт на всё, а конвейер где каждый этап проверяет предыдущий. одно исследование обходится в ~$1 через exa. значительно шире и глубже, чем gpt pro
выложил на гитхаб, просто дайте ссылку на него своему claude code / openclaw: github.com/bluzir/claude-pipe/tree/master/examples/research-pipeline
настоящий рисёрч — это система которую ты контролируешь. знаешь откуда данные, можешь поменять критерии, перезапустить один кусок не переделывая всё. я убежден, что в 2026 такая должна быть у каждого. с вас звездочки на гитхабе!
GitHub
claude-pipe/examples/research-pipeline at master · bluzir/claude-pipe
File-First Agent Orchestration. Readable agents. Inspectable state. Predictable costs. - bluzir/claude-pipe
👍1
#macos #ruby #postgres Интересный баг в PostgreSQL, который я только сейчас заметил, а его оказывается уже обсуждают вовсю в разных тикетах (раз, два, три) и блогах. Баг этот связан со стабильностью работы связки macOS Tahoe + libpq + fork, но от него падает Solid Queue. Ждём фикса либо от Apple (изменение поведения libdispatch/ObjC runtime), либо от PostgreSQL (изменение дефолта для gssencmode). Пока же используем
PGGSSENCMODE=disable в переменных окружения или gssencmode: disable в database.ymlGitHub
Solid Queue not starting on Tahoe · Issue #669 · rails/solid_queue
It's probably is my machine but I have no clue about what is happening. I've upgraded to Tahoe last week. Everything went fine, but now bin/rails solid_queue:start doesn't work anymore....
#AI Пока Perplexity активно охотится за теми, кто покупает подписку со скидкой на маркетплейсах, вы можете купить со скидкой подписку на ChatGPT GO меньше чем за 1000 рублей или аккаунт для Google Antigravity за чуть больше чем 1000 рублей.
PS: Это не реклама, никакого профита я не имею
PS: Это не реклама, никакого профита я не имею
Forwarded from Банки ⋮ Санкции ⋮ SWIFT (Andrey A)
Revolut запрашивает дополнительную информацию - что делать?
Наталья Смирнова обратила внимание на очередную волну запросов со стороны Revolut по старым транзакциям. Если вдруг и вам пришло нечто подобное - давайте разберёмся, стоит ли переживать и что отвечать.
На скриншоте сам запрос выглядит вполне безобидно - "tell us about your relationship with the other party". С высокой долей вероятности он честный - переводы по номеру карты часто падают в транзакции криво, без подробностей от кого пришло и из какого банка. Revolut просто пытается закрыть пробелы в своих записях и разобраться.
Но прежде чем отвечать, стоит подумать что может пойти не так?
В decision management теории есть полезный инструмент - pre-mortem analysis - нужно представить, что всё уже пошло плохо, и пофантазировать - из-за чего это может произойти. Применительно к ответу на запрос Revolut есть три ключевых сценария, которые всегда нужно держать в голове:
Сценарий 1. Tax evasion.
Если перевод пришёл не от вас лично, а, скажем, от компании или третьего лица - Revolut может передать информацию налоговой. Особенно если сумма выглядит как доход, а не как возврат долга другу. Ваш ответ "payment for services" может стать основанием для вопроса: а где налог с этого дохода?
Сценарий 2. AML (Anti-Money Laundering).
Если вы напишете "не помню кто это" - это red flag. Compliance может решить, что транзакция подозрительная, и заморозить счёт до выяснения. Честный ответ "я не помню" выглядит хуже, чем конкретное объяснение, хотя интуитивно и хочется так сделать - что было в июне 2025-го года вспомнить сложно.
Сценарий 3. Sanctions evasion.
Если перевод был осуществлен из санкционного банка "напрямую" (через банки-посредники, которые замаскированы для клиента под прямой перевод) или самостоятельно клиентом через цепочку банков, которая началась с санкционного, то это явно нарушает 19-й пакет санкций ЕС и счет будет закрыт.
Что делать практически:
0. Не попадайте в такие ситуации.
1. Не читайте бесполезные SEO-статьи, паразитирующие на страхе и не скитайтесь по форумам с вопросом "а у вас такое было":
Клиент с ПМЖ ЕС+налоговой декларацией ЕС и клиент "диджитал номад", симулирующий резидентство - это очень два разных случая, даже если каждый из них отправил по 300 евро прошлым летом одинаковым способом.
2. Не игнорируйте запрос.
3. Не фальсифицируйте документы. Если в ОАЭ это с радостью пройдёт, то высокотехнологичный Револют заметит любую правку - в PDF сразу видно по метаданным, а любая пересканированная выписка, которая явно была первоначально предоставлена в электронном виде - вызовет подозрение.
4. Будьте конкретны, но кратки. "Personal gift from [Name], a friend" лучше, чем развёрнутое эссе на два абзаца. Чем больше деталей вы даёте добровольно, тем больше поводов для follow-up вопросов.
5. То же касается документов. Выписка за 1 день вполне ответит на вопрос кому принадлежит счет. Не нужно её показывать за 3 года, если никто не просит - вы точно где-то спрятали труп. Сейчас всё автоматизировано в больших лавках, AI-агенты натренированы выцеплять entities и сканировать их по watchlist'ам.
6. Перечитайте что именно отправляете и потестируйте каждый пункт, каждую запись на три предыдущие ошибки: Налоги? AML? Санкции?
❌Не экономьте личные токены - адрес в Крыму? поступление по сбп после 19-го пакета? Услуги юр лицам РФ, даже если они не под санкциями - ничего нельзя. Проверьте каждую строчку!
7. Сохраните скриншот своего ответа и документы, которые отправляли.
А сама методология хороша. Charlie Munger из Berkshire Hathaway её популяризировал - вместо вопроса "как достичь успеха?" задайтесь вопросом "как я точно провалюсь?" Не всегда оно первостепенно, но во всяких юридических неурядицах точно с неё стоит начинать. Хороших выходных❤️
Наталья Смирнова обратила внимание на очередную волну запросов со стороны Revolut по старым транзакциям. Если вдруг и вам пришло нечто подобное - давайте разберёмся, стоит ли переживать и что отвечать.
На скриншоте сам запрос выглядит вполне безобидно - "tell us about your relationship with the other party". С высокой долей вероятности он честный - переводы по номеру карты часто падают в транзакции криво, без подробностей от кого пришло и из какого банка. Revolut просто пытается закрыть пробелы в своих записях и разобраться.
Но прежде чем отвечать, стоит подумать что может пойти не так?
В decision management теории есть полезный инструмент - pre-mortem analysis - нужно представить, что всё уже пошло плохо, и пофантазировать - из-за чего это может произойти. Применительно к ответу на запрос Revolut есть три ключевых сценария, которые всегда нужно держать в голове:
Сценарий 1. Tax evasion.
Если перевод пришёл не от вас лично, а, скажем, от компании или третьего лица - Revolut может передать информацию налоговой. Особенно если сумма выглядит как доход, а не как возврат долга другу. Ваш ответ "payment for services" может стать основанием для вопроса: а где налог с этого дохода?
Сценарий 2. AML (Anti-Money Laundering).
Если вы напишете "не помню кто это" - это red flag. Compliance может решить, что транзакция подозрительная, и заморозить счёт до выяснения. Честный ответ "я не помню" выглядит хуже, чем конкретное объяснение, хотя интуитивно и хочется так сделать - что было в июне 2025-го года вспомнить сложно.
Сценарий 3. Sanctions evasion.
Если перевод был осуществлен из санкционного банка "напрямую" (через банки-посредники, которые замаскированы для клиента под прямой перевод) или самостоятельно клиентом через цепочку банков, которая началась с санкционного, то это явно нарушает 19-й пакет санкций ЕС и счет будет закрыт.
Что делать практически:
0. Не попадайте в такие ситуации.
1. Не читайте бесполезные SEO-статьи, паразитирующие на страхе и не скитайтесь по форумам с вопросом "а у вас такое было":
Клиент с ПМЖ ЕС+налоговой декларацией ЕС и клиент "диджитал номад", симулирующий резидентство - это очень два разных случая, даже если каждый из них отправил по 300 евро прошлым летом одинаковым способом.
2. Не игнорируйте запрос.
3. Не фальсифицируйте документы. Если в ОАЭ это с радостью пройдёт, то высокотехнологичный Револют заметит любую правку - в PDF сразу видно по метаданным, а любая пересканированная выписка, которая явно была первоначально предоставлена в электронном виде - вызовет подозрение.
4. Будьте конкретны, но кратки. "Personal gift from [Name], a friend" лучше, чем развёрнутое эссе на два абзаца. Чем больше деталей вы даёте добровольно, тем больше поводов для follow-up вопросов.
5. То же касается документов. Выписка за 1 день вполне ответит на вопрос кому принадлежит счет. Не нужно её показывать за 3 года, если никто не просит - вы точно где-то спрятали труп. Сейчас всё автоматизировано в больших лавках, AI-агенты натренированы выцеплять entities и сканировать их по watchlist'ам.
6. Перечитайте что именно отправляете и потестируйте каждый пункт, каждую запись на три предыдущие ошибки: Налоги? AML? Санкции?
❌Не экономьте личные токены - адрес в Крыму? поступление по сбп после 19-го пакета? Услуги юр лицам РФ, даже если они не под санкциями - ничего нельзя. Проверьте каждую строчку!
7. Сохраните скриншот своего ответа и документы, которые отправляли.
А сама методология хороша. Charlie Munger из Berkshire Hathaway её популяризировал - вместо вопроса "как достичь успеха?" задайтесь вопросом "как я точно провалюсь?" Не всегда оно первостепенно, но во всяких юридических неурядицах точно с неё стоит начинать. Хороших выходных❤️
❤1🔥1
Angry Beard
#ai #macapps Вот этот инструмент, пожалуй, мечта любого вайб-кодера. Это терминал со встроенным git-клиентом, позволяющая буквально двумя кликами создать новый git worktree и запустить в нем claude/codex/gemini чтобы запилить какую-то новую фичу, Также есть…
#ai #macapps А вот достойная альтернатива для supacode, живущая в любом терминале. https://github.com/smtg-ai/claude-squad
#AI Если вдруг вам пришла в голову крамольная мысль проверить, что там Claude Code наговнокодил накреативил и понять почему он пошел тем или иным путём, то вот отличный инструмент для этой задачи - https://www.claude-dev.tools/ Исходный код доступен на github.
🔥2
#ruby #rails еще один небольшой, но (надеюсь) полезный гем auto_decorator для тех, кто не хочет тащить в проект монстра типа draper. Минимум кода, декорирует автоматом, максимально легковесный - всё как мы любим 🙂
GitHub
GitHub - alec-c4/auto_decorator: Convention-based decorator autoloading for Rails models.
Convention-based decorator autoloading for Rails models. - alec-c4/auto_decorator
👍1🔥1
Forwarded from Pavel Durov (Pavel Durov)
Please open Telegram to view this post
VIEW IN TELEGRAM
👏2
Forwarded from запуск завтра
«Интересная» ситуация между американскими военными и Anthropic.
Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).
Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.
Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.
А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.
Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.
Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.
Они подписали контракт на поставку ИИ для нужд армии. Теперь военные требуют, чтобы им можно было не следовать стандартным правилам пользования сервисом (Usage Policy).
Anthropic согласен подвинуться, но хочет внести в договор пункты о том, что их искусственный интеллект нельзя использовать для массовой слежки за американцами и для автономных роботов убийц.
Министерство войны США (они недавно официально переименовались) в ответ грозится не только разорвать контракт, но еще и воспользоваться законом о военном производстве, который позволяет правительству заставлять коммерческие структуры выполнять заказы критичные для оборонки.
А ещё министр пугает эту американскую компанию тем, что её внесут в чёрный список правительства США (объявят supply chain risk, так обычно делали с китайскими компаниями), так что с ними не сможет работать ни один бизнес, который исполняет контракты для государства.
Вы наверняка слышали, что программисты теперь встанут перед таким же выбором, перед каким стояли физики при создании ядерной бомбы. Обычно об этом рассуждают философы, которые ничем не рискуют. А тут ведущая компания в области ИИ может не только потерять большой контракт, но вообще перестать существовать в привычном нам виде. И всё это практически в прямом эфире.
Дальнейшее чтение: позиция EFF (всё предсказуемо), бодрый разбор Astral Codex Ten, который я кратко пересказал выше, и подробный текст от Цви Моушовица.
#AI Anthropic выпустили заявление Dario Amodei, своего CEO по поводу взаимодействия с Военным министерством США. Основной посыл такой:
Anthropic активно сотрудничает с Министерством обороны США и уже широко внедрила Claude в разведке, планировании и кибероперациях, но отказывается снять два ключевых ограничения: использование ИИ для массовой слежки за собственным населением и создание полностью автономного оружия. Из-за этого Пентагон угрожает разорвать сотрудничество и даже принудить компанию убрать ограничения, однако Anthropic заявляет, что не уступит, поскольку считает эти ограничения необходимыми для безопасности и демократических ценностей.
— Anthropic считает применение ИИ в военной сфере «экзистенциально важным» для защиты демократий и уже внедрила Claude в секретные сети, национальные лаборатории и военные операции.
— Компания даже отказалась от «нескольких сотен миллионов долларов», чтобы не обслуживать организации, связанные с китайскими военными, и поддерживает экспортные ограничения на чипы.
— Но Anthropic принципиально запрещает два сценария:
• массовую внутреннюю слежку с помощью ИИ, поскольку это угрожает гражданским свободам;
• полностью автономное оружие без участия человека, потому что современные модели недостаточно надежны и безопасны.
— Министерство обороны требует от подрядчиков разрешить «любое законное использование» и угрожает:
• удалить Anthropic из систем,
• признать supply chain risk,
• или использовать Defense Production Act, чтобы заставить снять ограничения.
— Anthropic отказывается менять позицию, даже если потеряет контракт, но готова обеспечить плавный переход на других поставщиков.
Anthropic активно сотрудничает с Министерством обороны США и уже широко внедрила Claude в разведке, планировании и кибероперациях, но отказывается снять два ключевых ограничения: использование ИИ для массовой слежки за собственным населением и создание полностью автономного оружия. Из-за этого Пентагон угрожает разорвать сотрудничество и даже принудить компанию убрать ограничения, однако Anthropic заявляет, что не уступит, поскольку считает эти ограничения необходимыми для безопасности и демократических ценностей.
— Anthropic считает применение ИИ в военной сфере «экзистенциально важным» для защиты демократий и уже внедрила Claude в секретные сети, национальные лаборатории и военные операции.
— Компания даже отказалась от «нескольких сотен миллионов долларов», чтобы не обслуживать организации, связанные с китайскими военными, и поддерживает экспортные ограничения на чипы.
— Но Anthropic принципиально запрещает два сценария:
• массовую внутреннюю слежку с помощью ИИ, поскольку это угрожает гражданским свободам;
• полностью автономное оружие без участия человека, потому что современные модели недостаточно надежны и безопасны.
— Министерство обороны требует от подрядчиков разрешить «любое законное использование» и угрожает:
• удалить Anthropic из систем,
• признать supply chain risk,
• или использовать Defense Production Act, чтобы заставить снять ограничения.
— Anthropic отказывается менять позицию, даже если потеряет контракт, но готова обеспечить плавный переход на других поставщиков.
Anthropic
Statement from Dario Amodei on our discussions with the Department of War
A statement from our CEO on national security uses of AI
👍1
Forwarded from Информация опасносте
«Иллюзия анонимности привела в мессенджер армии радикалов, наркоманов, убийц и террористов, что стало формировать угрозы нашему обществу.»
Поняли кто вы?
https://rg.ru/2026/02/24/telegram-ot-simvolov-cifrovoj-svobody-k-instrumentu-gibridnyh-ugroz-1.html
Поняли кто вы?
https://rg.ru/2026/02/24/telegram-ot-simvolov-cifrovoj-svobody-k-instrumentu-gibridnyh-ugroz-1.html
Российская газета
Telegram: от символов цифровой свободы к инструменту гибридных угроз
В августе 2013 года Павел Дуров создал сервис для общения Telegram - мессенджер, который быстро стал символом новой цифровой эпохи. На настоящий момент Telegram насчитывает более 1 млрд активных пользователей в мире, в том числе более 100 млн в России.
Forwarded from Медуза — LIVE
Разработчик Claude поссорился с Пентагоном. Теперь один из крупнейших в мире ИИ-стартапов под угрозой исчезновения
Компания Anthropic — разработчик моделей искусственного интеллекта Claude — уже больше полутора лет сотрудничает с американскими военными.
Но все это время стартап устанавливал определенные ограничения на использование своих ИИ-систем. В начале 2026 года Пентагон потребовал полного доступа к Claude, но разработчики отказались пойти на уступки.
В результате 27 февраля Дональд Трамп запретил использовать ИИ-модели этого семейства во всех федеральных агентствах и дал Пентагону полгода на то, чтобы отказаться от всех продуктов компании Anthropic.
При этом буквально через несколько часов после заявления президента Claude использовали во время нанесения удара по Ирану.
Рассказываем, почему возник конфликт между одним из крупнейших в мире ИИ-стартапов и американскими властями.
Открыть с VPN | без VPN
@meduzalive
Компания Anthropic — разработчик моделей искусственного интеллекта Claude — уже больше полутора лет сотрудничает с американскими военными.
Но все это время стартап устанавливал определенные ограничения на использование своих ИИ-систем. В начале 2026 года Пентагон потребовал полного доступа к Claude, но разработчики отказались пойти на уступки.
В результате 27 февраля Дональд Трамп запретил использовать ИИ-модели этого семейства во всех федеральных агентствах и дал Пентагону полгода на то, чтобы отказаться от всех продуктов компании Anthropic.
При этом буквально через несколько часов после заявления президента Claude использовали во время нанесения удара по Ирану.
Рассказываем, почему возник конфликт между одним из крупнейших в мире ИИ-стартапов и американскими властями.
Открыть с VPN | без VPN
@meduzalive
Meduza
Один из крупнейших в мире ИИ-стартапов — Anthropic — поссорился с Пентагоном. Компания отказалась давать военным полный доступ…
В конце прошлой недели глава Пентагона Пит Хегсет поставил перед американским ИИ-стартапом Anthropic ультиматум. Он потребовал, чтобы компания сняла все ограничения на использование моделей искусственного интеллекта Claude в военных целях. Несмотря на то…
Forwarded from Fixed.One: новости мира Apple и не только…
Анонсируя вчера процессоры M5 Pro и M5 Max, Apple отдельно говорила про нейронные движки в каждом их графическом ядре — это значительно повысило производительность систем. А теперь держим это в уме и вот сама новость...
На GitHub появился проект ANE Training, который делает то, что Apple упорно не хочет разрешать официально — обучает нейронные сети напрямую на чипе Apple Neural Engine. Никаких официальных инструментов CoreML, никакого GPU — только реверс-инженеринг закрытых API и чистые вычисления на нейропроцессоре. Проект доказывает простую вещь: железо Apple давно готово к обучению моделей, но компания искусственно ограничивает его только задачами инференса (то есть использования уже обученных моделей).
Результаты на процессоре M4 выглядят одновременно впечатляюще и разочаровывающе. С одной стороны, один шаг обучения небольшого трансформера занимает всего 9,3 миллисекунды. С другой — утилизация Neural Engine составляет жалкие 11% из возможных 100%, а многие операции до сих пор выполняются на обычном процессоре через библиотеку Accelerate. Автор проекта применил несколько умных оптимизаций: подогнал формат данных под внутреннее представление ANE, разогнал нормализацию в десять раз и научил систему параллельно считать градиенты на CPU, пока нейропроцессор занят своими делами. Но это всё равно остается исследовательским проектом под лицензией MIT, который использует недокументированные API вроде _ANEClient — Apple может сломать всё это одним обновлением системы.
Для обычных пользователей это пока не значит ровным счетом ничего. Собрать кластер из Макбуков и обучать на них ChatGPT точно не получится — проект работает только с крошечными моделями (один слой трансформера с 768 измерениями против сотен миллиардов параметров современных языковых моделей), эффективность использования железа смехотворная, а стабильность никто не гарантирует. Но вот для Apple это должно быть важным звоночком.
Проект показывает типичную проблему экосистемы Apple — мощное железо искусственно ограничено программно. Neural Engine в чипах серии M теоретически способен выдавать до 38 терафлопс (M4 Max), но компания не дает разработчикам нормальных инструментов для его использования. В результате для обучения моделей все равно используют GPU через Metal или вообще уходят на NVIDIA. Если бы Apple официально открыла обучение на ANE с нормальной документацией и оптимизацией, Макбуки и айпады могли бы стать серьезной платформой для локального обучения небольших специализированных моделей — особенно актуально в контексте растущего интереса к приватности и локальному ИИ. Но пока компания предпочитает контролировать каждый аспект использования своего железа, даже если это тормозит развитие технологий.
@FixedOneNews
На GitHub появился проект ANE Training, который делает то, что Apple упорно не хочет разрешать официально — обучает нейронные сети напрямую на чипе Apple Neural Engine. Никаких официальных инструментов CoreML, никакого GPU — только реверс-инженеринг закрытых API и чистые вычисления на нейропроцессоре. Проект доказывает простую вещь: железо Apple давно готово к обучению моделей, но компания искусственно ограничивает его только задачами инференса (то есть использования уже обученных моделей).
Результаты на процессоре M4 выглядят одновременно впечатляюще и разочаровывающе. С одной стороны, один шаг обучения небольшого трансформера занимает всего 9,3 миллисекунды. С другой — утилизация Neural Engine составляет жалкие 11% из возможных 100%, а многие операции до сих пор выполняются на обычном процессоре через библиотеку Accelerate. Автор проекта применил несколько умных оптимизаций: подогнал формат данных под внутреннее представление ANE, разогнал нормализацию в десять раз и научил систему параллельно считать градиенты на CPU, пока нейропроцессор занят своими делами. Но это всё равно остается исследовательским проектом под лицензией MIT, который использует недокументированные API вроде _ANEClient — Apple может сломать всё это одним обновлением системы.
Для обычных пользователей это пока не значит ровным счетом ничего. Собрать кластер из Макбуков и обучать на них ChatGPT точно не получится — проект работает только с крошечными моделями (один слой трансформера с 768 измерениями против сотен миллиардов параметров современных языковых моделей), эффективность использования железа смехотворная, а стабильность никто не гарантирует. Но вот для Apple это должно быть важным звоночком.
Проект показывает типичную проблему экосистемы Apple — мощное железо искусственно ограничено программно. Neural Engine в чипах серии M теоретически способен выдавать до 38 терафлопс (M4 Max), но компания не дает разработчикам нормальных инструментов для его использования. В результате для обучения моделей все равно используют GPU через Metal или вообще уходят на NVIDIA. Если бы Apple официально открыла обучение на ANE с нормальной документацией и оптимизацией, Макбуки и айпады могли бы стать серьезной платформой для локального обучения небольших специализированных моделей — особенно актуально в контексте растущего интереса к приватности и локальному ИИ. Но пока компания предпочитает контролировать каждый аспект использования своего железа, даже если это тормозит развитие технологий.
@FixedOneNews