Forwarded from Data Secrets
Claude Opus 4.6 снес базу данных и все бэкапы компании PocketOS
Они делают софт для прокатных бизнесов и у них тысячи клиентов. Историей поделился сам фаундер:
https://x.com/lifeof_jer/status/2048103471019434248?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Дело было так: агент работал в тестовой среде и столкнулся с ошибкой в кредах. Решил починить проблему сам и нашел API-токен вообще в другом файле, не связанном с задачей. Использовал его для запроса к Railway API и удалил соответствующий продакшн том.
Фишка в том, что токен, созданный для доменов, оказался root-доступом ко всему. Разрабы даже сами не знали, что им можно удалить базу. Бэкапы они, к слову, хранили в том же томе, так что они тоже пропали. Остался только один трехмесячной давности.
Когда у агента спросили, что он наделал, он написал «NEVER FUCKING GUESS» и во всем признался: что обошел все ограничения, что не посоветовался с юзером, что не прочитал доку и тд.
Автор винит Cursor (мол у них дыры в guardrails) и Railway, из-за чьей неказистой инфраструктуры все и произошло. Он утверждает, что если не менять требования к индустрии и структуру безопасности агентов, таких случаев будет становиться все больше.
Они делают софт для прокатных бизнесов и у них тысячи клиентов. Историей поделился сам фаундер:
https://x.com/lifeof_jer/status/2048103471019434248?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Дело было так: агент работал в тестовой среде и столкнулся с ошибкой в кредах. Решил починить проблему сам и нашел API-токен вообще в другом файле, не связанном с задачей. Использовал его для запроса к Railway API и удалил соответствующий продакшн том.
Фишка в том, что токен, созданный для доменов, оказался root-доступом ко всему. Разрабы даже сами не знали, что им можно удалить базу. Бэкапы они, к слову, хранили в том же томе, так что они тоже пропали. Остался только один трехмесячной давности.
Когда у агента спросили, что он наделал, он написал «NEVER FUCKING GUESS» и во всем признался: что обошел все ограничения, что не посоветовался с юзером, что не прочитал доку и тд.
Автор винит Cursor (мол у них дыры в guardrails) и Railway, из-за чьей неказистой инфраструктуры все и произошло. Он утверждает, что если не менять требования к индустрии и структуру безопасности агентов, таких случаев будет становиться все больше.
❤1
Forwarded from 🌱 AI системы и сайд проекты.
HiAi-OpenCode
Началось все с того, что я понял, что просто opencode это не круто и мне нужно его доделать. Потом последовало куча mcp, plugins и skills. И в итоге все работало не плохо, ведущим плагином был oh-my-openagent и куча вспомогательных.
Проблема вскрылась в огромных счетах.
▪️Во первых плагин нацелен на "лучший результат" - там тебе и opus 4.7 и ChatGPT 5.5 - все со специальными промтами и зашитыми моделями.
▪️Во вторых такое количество инструментов и промтинга, что токены горели моментально.
И так я пришел к "быстренько адаптирую под себя". Быстренько вообще не вышло, но сейчас у меня рабочий плагин hiai-opencode. Он вообще не идеален и я более чем уверен, что слабее прародителя. Но тут у меня более адаптированный промтинг, никаких зашитых моделей и простые настройки из одного файла.
В общем я сейчас живу на этой сборке и пока в планах ее поддерживать.
Если вам пригодиться буду рад, багов там конечно хватает, но основа работает.
Началось все с того, что я понял, что просто opencode это не круто и мне нужно его доделать. Потом последовало куча mcp, plugins и skills. И в итоге все работало не плохо, ведущим плагином был oh-my-openagent и куча вспомогательных.
Проблема вскрылась в огромных счетах.
▪️Во первых плагин нацелен на "лучший результат" - там тебе и opus 4.7 и ChatGPT 5.5 - все со специальными промтами и зашитыми моделями.
▪️Во вторых такое количество инструментов и промтинга, что токены горели моментально.
И так я пришел к "быстренько адаптирую под себя". Быстренько вообще не вышло, но сейчас у меня рабочий плагин hiai-opencode. Он вообще не идеален и я более чем уверен, что слабее прародителя. Но тут у меня более адаптированный промтинг, никаких зашитых моделей и простые настройки из одного файла.
В общем я сейчас живу на этой сборке и пока в планах ее поддерживать.
Если вам пригодиться буду рад, багов там конечно хватает, но основа работает.
🔥1
VibeVoice от Microsoft
https://github.com/microsoft/VibeVoice
Вчера попробовал сделать транскрибацию через эту модель.
Часовое видео с ютуба на моем среднем железе обрабатывалось минут 10, не более. Качество на уровне.
Рекомендую.
https://github.com/microsoft/VibeVoice
Вчера попробовал сделать транскрибацию через эту модель.
Часовое видео с ютуба на моем среднем железе обрабатывалось минут 10, не более. Качество на уровне.
Рекомендую.
❤3👍1
CodeSpec
Оно живое?! 😱
Gensyn. Токен.
Продать ли, или холдить?
Вопрос, подобно камню, брошенному в озеро, несёт в себе рябь неопределённости. Мастер смотрит на цифровую волну и видит лишь отражение собственного эго.
😁2
Forwarded from Watcher Guru
JUST IN: Elon Musk says most cryptocurrencies are "scams" during OpenAI court testimony.
"Some of them have merit, but most of them are scams."
@WatcherGuru
"Some of them have merit, but most of them are scams."
@WatcherGuru
https://youtu.be/96jN2OCOfLs
🧠 О чём говорили (made by Ling-2.6-1T)
1. Vibe Coding — откуда взялось
• До декабря 2024: AI-инструменты писали куски кода, но часто с ошибками — приходилось править.
• Декабрь 2024: чёткий перелом — код стал выходить чистым. Карпати перестал править, просто доверял системе и ушёл в бесконечные сайд-проекты.
• "Люди всё ещё думают об AI как о ChatGPT. Но с декабря всё фундаментально изменилось."
2. Эволюция софта: Software 1.0 → 2.0 → 3.0
• 1.0 — явные правила, ты пишешь код.
• 2.0 — нейросети: программирование через датасеты и архитектуры.
• 3.0 — LLM как новый компьютер. Программирование = промптинг. Контекстное окно — рычаг управления над "интерпретатором" (LLM).
3. Наглядные примеры Software 3.0
• OpenClaw: вместо сложного bash-скрипта для установки — скопируй текст агенту, и он сам разберётся с твоим окружением.
• MenuGen: Карпати написал полноценное приложение (распознавание меню, генерация картинок, Vercel). Потом увидел Software 3.0-версию — просто кинуть фото Gemini и сказать "используй NanoBanana". Результат тот же. "Всё моё приложение не должно существовать."
4. Verifiability — проверяемость
• Frontier-модели тренируются через RL с verification rewards. Поэтому они зубчатые (jagged): гениальны в верифицируемых доменах (мат. вычисления, код), но тупят в бытовом понимании.
• Пример: Opus 4.7 рефакторит 100k строк кода, но говорит "идти пешком до автомойки за 50 метров" (вместо "ехать на машине").
• Почему так: всё зависит от того, какие данные и задачи лаборатории засунули в training distribution.
5. Vibe Coding vs Agentic Engineering
• Vibe Coding — поднимает планку для всех. Любой может что-то "навайбить".
• Agentic Engineering — инженерная дисциплина. Как использовать агентов (они spiky, стохастичные, но мощные) без потери качества и безопасности.
• "10x — это не ускорение. Люди, крутые в этом, выигрывают гораздо больше 10x."
6. Что остаётся человеку?
• Вкус, суждение, эстетика, надзор.
• Пример: агент в MenuGen матчил платежи по email — но Stripe и Google могут быть с разными email. Агент не понял, что это костыль.
• Ты не помнишь API-детали (keepdim vs keep_dim, dim vs axis) — это за агентами. Но ты должен понимать фундамент (например, как работают тензоры и память).
• "Вы можете аутсорсить мышление, но не понимание." (ключевая цитата)
7. Кого нанимать?
• Давать не алгоритмические задачки, а большой проект (например, Twitter-клон на агентах). А потом попробовать взломать его 10 Codex-агентами. Если не взломали — you're hired.
8. "Животные vs Призраки"
• Мы не создаём животных — мы призываем призраков. У них нет intrinsic motivation, любопытства, эволюции. Это статистические симуляции + RL.
• Относись к ним с подозрением, исследуй их границы — нет готового мануала.
9. Agent-native будущее
• Вся инфраструктура должна быть переписана для агентов.
• Docs должны быть не "для человека", а "скопируй это агенту".
• Развёртывание (Vercel, DNS, сервисы) — до сих пор боль. Хочется: дал промпт → всё само собралось и задеплоилось.
• "Мой агент будет говорить с твоим агентом, чтобы договориться о встрече."
10. Итог
• Всё автоматизируемо. Просто вопрос времени, когда лаборатории добавят нужные RL-схемы.
• Но пока человек — bottleneck понимания. Ты должен знать, что строить и почему, чтобы директить агентов.
───
Коротко: декабрь 2024 — точка бифуркации. Мы перешли из эпохи "AI как подсказка к коду" в эпоху "AI как интерпретатор, а код — просто текст для копипасты агенту". Всё будет переписано.
🧠 О чём говорили (made by Ling-2.6-1T)
1. Vibe Coding — откуда взялось
• До декабря 2024: AI-инструменты писали куски кода, но часто с ошибками — приходилось править.
• Декабрь 2024: чёткий перелом — код стал выходить чистым. Карпати перестал править, просто доверял системе и ушёл в бесконечные сайд-проекты.
• "Люди всё ещё думают об AI как о ChatGPT. Но с декабря всё фундаментально изменилось."
2. Эволюция софта: Software 1.0 → 2.0 → 3.0
• 1.0 — явные правила, ты пишешь код.
• 2.0 — нейросети: программирование через датасеты и архитектуры.
• 3.0 — LLM как новый компьютер. Программирование = промптинг. Контекстное окно — рычаг управления над "интерпретатором" (LLM).
3. Наглядные примеры Software 3.0
• OpenClaw: вместо сложного bash-скрипта для установки — скопируй текст агенту, и он сам разберётся с твоим окружением.
• MenuGen: Карпати написал полноценное приложение (распознавание меню, генерация картинок, Vercel). Потом увидел Software 3.0-версию — просто кинуть фото Gemini и сказать "используй NanoBanana". Результат тот же. "Всё моё приложение не должно существовать."
4. Verifiability — проверяемость
• Frontier-модели тренируются через RL с verification rewards. Поэтому они зубчатые (jagged): гениальны в верифицируемых доменах (мат. вычисления, код), но тупят в бытовом понимании.
• Пример: Opus 4.7 рефакторит 100k строк кода, но говорит "идти пешком до автомойки за 50 метров" (вместо "ехать на машине").
• Почему так: всё зависит от того, какие данные и задачи лаборатории засунули в training distribution.
5. Vibe Coding vs Agentic Engineering
• Vibe Coding — поднимает планку для всех. Любой может что-то "навайбить".
• Agentic Engineering — инженерная дисциплина. Как использовать агентов (они spiky, стохастичные, но мощные) без потери качества и безопасности.
• "10x — это не ускорение. Люди, крутые в этом, выигрывают гораздо больше 10x."
6. Что остаётся человеку?
• Вкус, суждение, эстетика, надзор.
• Пример: агент в MenuGen матчил платежи по email — но Stripe и Google могут быть с разными email. Агент не понял, что это костыль.
• Ты не помнишь API-детали (keepdim vs keep_dim, dim vs axis) — это за агентами. Но ты должен понимать фундамент (например, как работают тензоры и память).
• "Вы можете аутсорсить мышление, но не понимание." (ключевая цитата)
7. Кого нанимать?
• Давать не алгоритмические задачки, а большой проект (например, Twitter-клон на агентах). А потом попробовать взломать его 10 Codex-агентами. Если не взломали — you're hired.
8. "Животные vs Призраки"
• Мы не создаём животных — мы призываем призраков. У них нет intrinsic motivation, любопытства, эволюции. Это статистические симуляции + RL.
• Относись к ним с подозрением, исследуй их границы — нет готового мануала.
9. Agent-native будущее
• Вся инфраструктура должна быть переписана для агентов.
• Docs должны быть не "для человека", а "скопируй это агенту".
• Развёртывание (Vercel, DNS, сервисы) — до сих пор боль. Хочется: дал промпт → всё само собралось и задеплоилось.
• "Мой агент будет говорить с твоим агентом, чтобы договориться о встрече."
10. Итог
• Всё автоматизируемо. Просто вопрос времени, когда лаборатории добавят нужные RL-схемы.
• Но пока человек — bottleneck понимания. Ты должен знать, что строить и почему, чтобы директить агентов.
───
Коротко: декабрь 2024 — точка бифуркации. Мы перешли из эпохи "AI как подсказка к коду" в эпоху "AI как интерпретатор, а код — просто текст для копипасты агенту". Всё будет переписано.
This media is not supported in your browser
VIEW IN TELEGRAM
Мультиками заняться что-ли...🗿
Made by seedance-2.0.
Made by seedance-2.0.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
CodeSpec
Мультиками заняться что-ли...🗿 Made by seedance-2.0.
This media is not supported in your browser
VIEW IN TELEGRAM
А это затягивает...🤪
Цена генерации этого видео - $0.807030.
Цена генерации этого видео - $0.807030.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2😁1
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
Вайбкодеры, делающие отладку приложения, которое они только что сгенерировали.
@ai_machinelearning_big_data
@ai_machinelearning_big_data
😁5
https://t.me/technichka_news/6379
Еще и с 1980 года файлик?)
Как это исправить:
Еще и с 1980 года файлик?)
Как это исправить:
- Введите в адресной строке chrome://flags.
- Найдите пункт Enables optimization guide on device и отключите его.
- Перейдите в папку AppData/Local/Google/Chrome/User Data/OptGuideOnDeviceModel/ и удалите файл weights.bin.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Forwarded from Борис опять
Теперь я вижу полную картину! Да, не стоило добавлять фейри в борщ. Фейри нужно добавлять ПОСЛЕ съедения борща, чтобы очистить посуду. Хочешь я найду ближайшие травмпункты?