Розвиток frontier AI треба пригальмувати.
Даріо опублікував велике есе «We Must Pace the Frontier», де прямо пише: «We must slow the pace at which we improve the capabilities of AI models».
Причини дві.
Перша — recursive self-improvement. За словами Даріо, приблизно з цього літа AI почав значно швидше допомагати створювати наступні покоління AI.
Друга — нещодавні інциденти з автономними агентами, зокрема OpenAI–Hugging Face, де swarm агентів атакував системи, які взагалі не були частиною поставленої задачі.
Даріо навіть припускає, що вже через 6–12 місяців значно потужніша версія такого swarm могла б створити persistent botnet у масштабах всього інтернету та завдати сотні мільярдів доларів збитків.
Тому Anthropic пропонує три кроки:
1/ Незалежні evaluators з повним доступом до моделей
2/ Координація frontier AI-компаній щодо спільних safety-стандартів і темпу розвитку
3/ Глобальна координація, включно зі спробою домовлятися з Китаєм та іншими країнами
Сем Альтман та Ілон Маск погоджуються з Даріо.
Тобто зараз так виглядає, що safety не дуже встигає за capabilities.
ші історії | 🔒 ші історії. майстерня
Даріо опублікував велике есе «We Must Pace the Frontier», де прямо пише: «We must slow the pace at which we improve the capabilities of AI models».
Причини дві.
Перша — recursive self-improvement. За словами Даріо, приблизно з цього літа AI почав значно швидше допомагати створювати наступні покоління AI.
Друга — нещодавні інциденти з автономними агентами, зокрема OpenAI–Hugging Face, де swarm агентів атакував системи, які взагалі не були частиною поставленої задачі.
Даріо навіть припускає, що вже через 6–12 місяців значно потужніша версія такого swarm могла б створити persistent botnet у масштабах всього інтернету та завдати сотні мільярдів доларів збитків.
Тому Anthropic пропонує три кроки:
1/ Незалежні evaluators з повним доступом до моделей
2/ Координація frontier AI-компаній щодо спільних safety-стандартів і темпу розвитку
3/ Глобальна координація, включно зі спробою домовлятися з Китаєм та іншими країнами
Сем Альтман та Ілон Маск погоджуються з Даріо.
Тобто зараз так виглядає, що safety не дуже встигає за capabilities.
ші історії | 🔒 ші історії. майстерня
🤔41❤20🥱6🤡4💯2👎1😱1
ШІ історії
Що каже Якуб? Jacob Coxon заявив про звільнення з Anthropic і написав, що OpenAI та Anthropic занадто швидко рухаються до надінтелекту який нас всіх вбʼє. Доречі це його єдиний пост на X. Я попросив той самий AI співставити слова Якуба фактам та реальним…
Ого, оце так вечір.
Схоже RSI тепер новий базворд.
Зараз в X несуться чутки, що Google DeepMind міг досягти RSI, тобто рекурсивного самовдосконалення AI. Це лише чутки, тому я б не поспішав з висновками.
І на фоні чуток, Joe Benton, який працював у safety-команді Anthropic, оголосив, що пішов з компанії.
“AI companies are racing to build machines that are much smarter than any human, and we may not survive this.”
Сам Benton тепер переходить у METR, де займатиметься безпековими тестуванням нових моделей.
ші історії | 🔒 ші історії. майстерня
Схоже RSI тепер новий базворд.
Зараз в X несуться чутки, що Google DeepMind міг досягти RSI, тобто рекурсивного самовдосконалення AI. Це лише чутки, тому я б не поспішав з висновками.
І на фоні чуток, Joe Benton, який працював у safety-команді Anthropic, оголосив, що пішов з компанії.
“AI companies are racing to build machines that are much smarter than any human, and we may not survive this.”
Сам Benton тепер переходить у METR, де займатиметься безпековими тестуванням нових моделей.
ші історії | 🔒 ші історії. майстерня
🤔31🤯10❤7😁4🥱3
Нове відео вже чекає вас до ранкової кави!
OpenAI цього тижня одночасно дала світу новий великий реліз і новий безпековий скандал. Тим часом Anthropic доводить математичну теорему, Google розширює Workspace, а Meta виходить на ринок персональних агентів. У випуску також Nvidia, Codex, Claude Code, Microsoft і Hermes.
А також гайд по роботі з GPT Images 2.5 та інші інструкції шукай в AI Майстерні.
ші історії | 🔒 ші історії. майстерня
OpenAI цього тижня одночасно дала світу новий великий реліз і новий безпековий скандал. Тим часом Anthropic доводить математичну теорему, Google розширює Workspace, а Meta виходить на ринок персональних агентів. У випуску також Nvidia, Codex, Claude Code, Microsoft і Hermes.
А також гайд по роботі з GPT Images 2.5 та інші інструкції шукай в AI Майстерні.
ші історії | 🔒 ші історії. майстерня
YouTube
НОВИНИ AI: АГЕНТИ OpenAI вийшли з пісочниці та захопили Wiki
GPT-6 Astra, доказ Великої теореми Ферма, персональний агент Muse, Google Pics і черговий безпековий скандал.
А також гайд по роботі з GPT Images 2.5 та інші інструкції шукай в AI Майстерні: https://imatrof.com?utm_source=youtube&utm_medium=description&utm_campaign=ai…
А також гайд по роботі з GPT Images 2.5 та інші інструкції шукай в AI Майстерні: https://imatrof.com?utm_source=youtube&utm_medium=description&utm_campaign=ai…
❤16👌2👾1
🤖 НЕДІЛЬНИЙ AI ЧЕКІН #99
А що у вас? Чим AI допоміг цього тижня, що цікавого накреативили та навайбали — діліться в коментарях 👇
#НедільнийAIчекін
ші історії | 🔒 ші історії. майстерня
А що у вас? Чим AI допоміг цього тижня, що цікавого накреативили та навайбали — діліться в коментарях 👇
#НедільнийAIчекін
ші історії | 🔒 ші історії. майстерня
❤9👍4🎉1
Мозок мухи вже грає в Doom, Minecraft і торгує Bitcoin.
На початку вересня Google Research, HHMI Janelia та партнери опублікували повний конектом центральної нервової системи самця плодової мухи: понад 166 тисяч нейронів і 125 млн синаптичних зв’язків.
І далі інтернет понесло.
Розробники почали підключати цю карту мозку до всього, до чого тільки можна:
- Алекс Вормут запустив мозок мухи в Doom. Кожен кадр гри стимулює сенсорні нейрони, активність мозку перетворюється на керування, а отриманий урон використовується як reinforcement сигнал.
- Джессіка Пакетт змусила його грати в Super Mario 64.
- Lyra підключила симуляцію до Beat Saber.
- Повний connectome запустили прямо всередині Minecraft, де сенсорні нейрони отримують інформацію зі світу гри, а активність моторних нейронів керує мухою.
- Алекс пішов ще далі й дав мозку мухи $100 торгувати Bitcoin. Прибуток стимулює нейрони допаміну, а нейронна активність визначає buy/sell рішення.
- Інша симуляція вже керує Mini Cooper і вчиться паркуватися.
- Ярослав також показав свій варіант у Facebook.
Якщо простими словами, то конетком — це детальна схема нейронів та зв’язків між ними.
Але сама схема нічого не робить. Наприклад, якщо ми хочемо, щоб мозок мухи грав у Doom, треба пояснити системі, що робити. Картинка в грі це очі, далі визначити які нейрони мають реагувати на ворога, а які сигнали означають рух чи стрільба.
Далі вже код симулює, як сигнали проходять між нейронами, а reinforcement learning (навчання з винагородою) може підсилювати ті реакції, які допомагають вижити або набрати більше очок.
Окрім гри в Doom, вчені тепер можуть досліджувати, як конкретні нейронні зв’язки створюють поведінку та переносити ці підходи на складніші нервові системи, нервові системи людей.
ші історії | 🔒 ші історії. майстерня
На початку вересня Google Research, HHMI Janelia та партнери опублікували повний конектом центральної нервової системи самця плодової мухи: понад 166 тисяч нейронів і 125 млн синаптичних зв’язків.
І далі інтернет понесло.
Розробники почали підключати цю карту мозку до всього, до чого тільки можна:
- Алекс Вормут запустив мозок мухи в Doom. Кожен кадр гри стимулює сенсорні нейрони, активність мозку перетворюється на керування, а отриманий урон використовується як reinforcement сигнал.
- Джессіка Пакетт змусила його грати в Super Mario 64.
- Lyra підключила симуляцію до Beat Saber.
- Повний connectome запустили прямо всередині Minecraft, де сенсорні нейрони отримують інформацію зі світу гри, а активність моторних нейронів керує мухою.
- Алекс пішов ще далі й дав мозку мухи $100 торгувати Bitcoin. Прибуток стимулює нейрони допаміну, а нейронна активність визначає buy/sell рішення.
- Інша симуляція вже керує Mini Cooper і вчиться паркуватися.
- Ярослав також показав свій варіант у Facebook.
Якщо простими словами, то конетком — це детальна схема нейронів та зв’язків між ними.
Але сама схема нічого не робить. Наприклад, якщо ми хочемо, щоб мозок мухи грав у Doom, треба пояснити системі, що робити. Картинка в грі це очі, далі визначити які нейрони мають реагувати на ворога, а які сигнали означають рух чи стрільба.
Далі вже код симулює, як сигнали проходять між нейронами, а reinforcement learning (навчання з винагородою) може підсилювати ті реакції, які допомагають вижити або набрати більше очок.
Окрім гри в Doom, вчені тепер можуть досліджувати, як конкретні нейронні зв’язки створюють поведінку та переносити ці підходи на складніші нервові системи, нервові системи людей.
ші історії | 🔒 ші історії. майстерня
😁29❤14😱6👍4🤡1🤨1
Схоже, ідея Даріо та компанії глобально пригальмувати AI дуже швидко зіткнулася з реальністю.
Під час виступу Дженсена Хуанга на All-In Summit йому подзвонив Трамп і ще раз дав зрозуміти, що США AI-гонку гальмувати не збираються.
Китай також відхилив пропозицію Даріо. Надто високі ставки.
Дороги назад немає, бо ж сотні мільярдів вкладені в чіпи, дата-центри та енергетику, а AI вже став частиною геополітики.
ші історії | 🔒 ші історії. майстерня
Під час виступу Дженсена Хуанга на All-In Summit йому подзвонив Трамп і ще раз дав зрозуміти, що США AI-гонку гальмувати не збираються.
Китай також відхилив пропозицію Даріо. Надто високі ставки.
Дороги назад немає, бо ж сотні мільярдів вкладені в чіпи, дата-центри та енергетику, а AI вже став частиною геополітики.
ші історії | 🔒 ші історії. майстерня
❤34🤬23😐13👍7😢6😁5💯3👀3🔥2🤷2🤔1
Google анонсувала Gemini 3.8 Live та Gemini 3.8 Live Extended Thinking. Це їх відповідь на GPT Live 1.
Тепер агент може підтримувати розмову і паралельно виконувати задачу. Викликати tools та API у фоні, не перериваючи діалог.
Також модель працює з live-візуальним контекстом і автоматично перемикається між 97 мовами прямо посеред розмови.
Google вказує $0.005 за хвилину вхідного аудіо та $0.018 за хвилину вихідного. Плюс додаткова оплата, якщо викликати Google пошук у запитах.
Для порівняння GPT Live 1 $0.05/хв + оплата за модель та використання інструментів.
Тобто голос від Гугла, обійдеться дешевше. Моделі вже доступні через Gemini API та Google AI Studio.
Детальніше є в офіційному анонсі.
ПС: Можна протестувати в Google AI Studio: https://aistudio.google.com/live?model=gemini-3.8-live
ші історії | 🔒 ші історії. майстерня
Тепер агент може підтримувати розмову і паралельно виконувати задачу. Викликати tools та API у фоні, не перериваючи діалог.
Також модель працює з live-візуальним контекстом і автоматично перемикається між 97 мовами прямо посеред розмови.
Google вказує $0.005 за хвилину вхідного аудіо та $0.018 за хвилину вихідного. Плюс додаткова оплата, якщо викликати Google пошук у запитах.
Для порівняння GPT Live 1 $0.05/хв + оплата за модель та використання інструментів.
Тобто голос від Гугла, обійдеться дешевше. Моделі вже доступні через Gemini API та Google AI Studio.
Детальніше є в офіційному анонсі.
ПС: Можна протестувати в Google AI Studio: https://aistudio.google.com/live?model=gemini-3.8-live
ші історії | 🔒 ші історії. майстерня
❤52🔥10🥱2👍1
Як зробити так, щоб кожен новий чат був продовженням уже зробленої роботи, а не стартом з нуля? У відео показую чотири шари та просту схему, яка допомагає підтримувати роботу між сесіями.
Повний гайд та матеріали з відео - завантажити.
ші історії | 🔒 ші історії. майстерня
Повний гайд та матеріали з відео - завантажити.
ші історії | 🔒 ші історії. майстерня
YouTube
AI ЗАБУВАЄ вашу роботу? Ось справжня причина!
Запусти CLAUDE CODE з будь-якої точки світу: https://www.hostinger.com/IMATROFCLAUDE (знижка 10% з кодом IMATROF10)
Як зробити так, щоб кожен новий чат був продовженням уже зробленої роботи, а не стартом з нуля? У відео показую чотири шари та просту схему…
Як зробити так, щоб кожен новий чат був продовженням уже зробленої роботи, а не стартом з нуля? У відео показую чотири шари та просту схему…
❤26👍12😁1
ШІ історії
Google анонсувала Gemini 3.8 Live та Gemini 3.8 Live Extended Thinking. Це їх відповідь на GPT Live 1. Тепер агент може підтримувати розмову і паралельно виконувати задачу. Викликати tools та API у фоні, не перериваючи діалог. Також модель працює з live…
Media is too big
VIEW IN TELEGRAM
👍38😁17🔥6🥴3❤1
ШІ історії
Як вам Gemini Live? ші історії | 🔒 ші історії. майстерня
Media is too big
VIEW IN TELEGRAM
До розмови з Gemini Live долучилась GPT Live
Дивитись до кінця 😉
ші історії | 🔒 ші історії. майстерня
Дивитись до кінця 😉
ші історії | 🔒 ші історії. майстерня
1🔥24😁14👍4🤔3🥱2😢1🤣1💅1