Forwarded from Секреты DARPA и ЦРУ | DARPA&CIA
Будущее ИИ делают не корпорации, а математика: как русский разработчик ломает шаблоны индустрии
Мы не так давно писали про нашего русского изобретателя, который ведёт канал «Техножнец». Сейчас он развивает по-настоящему национальную языковую модель Rukallama, которую обучает с нуля, опираясь на элегантные математические решения, а не на грубую силу железа.
Но помимо больших языковых моделей, у него в разработке есть и другие, совершенно прорывные идеи. Одна из них — его собственная архитектура, так называемый «нейрон Поповича». В отличие от привычных нам нейросетей, он не «угадывает» наиболее вероятные ответы, а считает сложные математические задачи со 100% точностью и без ошибок.
По сути, это живое доказательство того, что IT-гиганты свернули не туда, решив заливать любые задачи тысячами видеокарт и бесконечными терабайтами данных.
Настоящий интеллект — это не способность вызубрить весь интернет. Это способность извлечь универсальное правило из минимума информации. «Нейроны Поповича» показывают: чтобы создать рабочий, безошибочный и сложный ИИ, не нужны миллиарды долларов и монополия на вычислительные центры. Нужна правильная геометрия пространства весов и... обычный ноутбук.
И это открывает совершенно фантастические перспективы для робототехники и Edge AI (ИИ на периферийных устройствах).
Как это изменит мир машин?
Современным автопилотам или дронам нужны мощные, прожорливые графические ускорители, чтобы анализировать пространство в реальном времени. Но если мы заменим тяжеловесные свёрточные сети массивами таких крошечных, точных нейронов, мы получим мгновенную реакцию. Беспилотник сможет вычислять траектории препятствий и корректировать полет с нулевой задержкой, потребляя при этом жалкие милливатты энергии.
Природа не строит гигантские дата-центры для мозга осы, чтобы та могла на лету маневрировать между ветками. Она использует изящную эффективность. И именно на это — на возвращение к чистой, эффективной математике — делает ставку эта технология.
И да, это не реклама, это наш, русский разработчик! 🇷🇺
Мы не так давно писали про нашего русского изобретателя, который ведёт канал «Техножнец». Сейчас он развивает по-настоящему национальную языковую модель Rukallama, которую обучает с нуля, опираясь на элегантные математические решения, а не на грубую силу железа.
Но помимо больших языковых моделей, у него в разработке есть и другие, совершенно прорывные идеи. Одна из них — его собственная архитектура, так называемый «нейрон Поповича». В отличие от привычных нам нейросетей, он не «угадывает» наиболее вероятные ответы, а считает сложные математические задачи со 100% точностью и без ошибок.
По сути, это живое доказательство того, что IT-гиганты свернули не туда, решив заливать любые задачи тысячами видеокарт и бесконечными терабайтами данных.
Настоящий интеллект — это не способность вызубрить весь интернет. Это способность извлечь универсальное правило из минимума информации. «Нейроны Поповича» показывают: чтобы создать рабочий, безошибочный и сложный ИИ, не нужны миллиарды долларов и монополия на вычислительные центры. Нужна правильная геометрия пространства весов и... обычный ноутбук.
И это открывает совершенно фантастические перспективы для робототехники и Edge AI (ИИ на периферийных устройствах).
Как это изменит мир машин?
Современным автопилотам или дронам нужны мощные, прожорливые графические ускорители, чтобы анализировать пространство в реальном времени. Но если мы заменим тяжеловесные свёрточные сети массивами таких крошечных, точных нейронов, мы получим мгновенную реакцию. Беспилотник сможет вычислять траектории препятствий и корректировать полет с нулевой задержкой, потребляя при этом жалкие милливатты энергии.
Природа не строит гигантские дата-центры для мозга осы, чтобы та могла на лету маневрировать между ветками. Она использует изящную эффективность. И именно на это — на возвращение к чистой, эффективной математике — делает ставку эта технология.
И да, это не реклама, это наш, русский разработчик! 🇷🇺
🔥117❤26👍9❤🔥7🤩2🤝2
Доброе утро, синтеты.
Только сейчас побольше текста , чем обычно.
Знаете, что удивляет?
Вот выложен был пост про Нейроны, об этом по договорённости написал канал Darpa (ещё раз респект за это).
В комментариях есть фраза " пока код не выложен , заявлять подобное самонадеянно", а вторым комментарием
"надо было выложить простой сервис, который бы это демонстрировал".
Ответ первому комментарию, а точнее вопрос: выложеный код является чем-то официальным?
Единицы из тех, кто кричат про репозиторий даже его не трогают.
Когда выкладываешь код в свободный доступ , ожидая , что самые активные и агрессивные требователи кода будут тебя проверять, писать issue.
Да? Во сне. Это все фразы - дежурные. Привычка такая есть у толпы прикрикнуть чтобы ты не выёбывался.
Обычно когда читают громкие заявления, то спрашивают на каком основании и получая ответ по компетенции делают вывод. А далее уже фактаж будет работать. Научное сообщество есть научное сообщество - оно у тебя либо работает, либо ты наврал.
Но , господа контролёры репозиториев, сидят и молчат.
Вот я выложил прометорч, там косяков я оставил с 20 телег...а хоть один коммент есть в личку от тех, кто мне крякал "почему код не выложен?"...
Нет, конечно. Поэтому когда в вашу сторону летят подобные претензии - закрывайте на это глаза. Это не по делу.
Каждый программист сам решит как написать о своей разработке: либо выложит ссылку на репу, либо статью научную без кода, либо ЛИЧНЫЙ ОПЫТ НА СВОЁМ КАНАЛЕ.
Это по первой части.
Вторая "выложите сервис".
А где гарантия, что я в этом сервисе не сделал фейк на питоне, который делает вид, что че-то считает? Ну был бы я идиотом и не проверял бы ничего, я бы выложил первую версию запакованную в "сервис", который по итогу является фейком. Словил бы благодарность за свой "гений"...а контролёры так и остались бы обманутыми. (речь о том, что агент с умным лицом навайбкодил мне питон калькулятор имея обученные веса)
С какой стороны не посмотри, а все очень не очень выглядит...но для кого не очень ?
Для авторов. Ладно, я калёный огурец соленый, который вырос в агрессивной среде схожей с серной кислотой и меня это не задевает.
Но как же меня бесит,что эти комментаторы вместо поддержки наших умельцев вечно гадят своими требования будто они все какие-то контролирующие службы.
Поменьше бы этого блядства в комментариях, может быть и сообщество наше энтузиастов выросло в ширь.
Я все. Остальным спасибо))
Только сейчас побольше текста , чем обычно.
Знаете, что удивляет?
Вот выложен был пост про Нейроны, об этом по договорённости написал канал Darpa (ещё раз респект за это).
В комментариях есть фраза " пока код не выложен , заявлять подобное самонадеянно", а вторым комментарием
"надо было выложить простой сервис, который бы это демонстрировал".
Ответ первому комментарию, а точнее вопрос: выложеный код является чем-то официальным?
Единицы из тех, кто кричат про репозиторий даже его не трогают.
Когда выкладываешь код в свободный доступ , ожидая , что самые активные и агрессивные требователи кода будут тебя проверять, писать issue.
Да? Во сне. Это все фразы - дежурные. Привычка такая есть у толпы прикрикнуть чтобы ты не выёбывался.
Обычно когда читают громкие заявления, то спрашивают на каком основании и получая ответ по компетенции делают вывод. А далее уже фактаж будет работать. Научное сообщество есть научное сообщество - оно у тебя либо работает, либо ты наврал.
Но , господа контролёры репозиториев, сидят и молчат.
Вот я выложил прометорч, там косяков я оставил с 20 телег...а хоть один коммент есть в личку от тех, кто мне крякал "почему код не выложен?"...
Нет, конечно. Поэтому когда в вашу сторону летят подобные претензии - закрывайте на это глаза. Это не по делу.
Каждый программист сам решит как написать о своей разработке: либо выложит ссылку на репу, либо статью научную без кода, либо ЛИЧНЫЙ ОПЫТ НА СВОЁМ КАНАЛЕ.
Это по первой части.
Вторая "выложите сервис".
А где гарантия, что я в этом сервисе не сделал фейк на питоне, который делает вид, что че-то считает? Ну был бы я идиотом и не проверял бы ничего, я бы выложил первую версию запакованную в "сервис", который по итогу является фейком. Словил бы благодарность за свой "гений"...а контролёры так и остались бы обманутыми. (речь о том, что агент с умным лицом навайбкодил мне питон калькулятор имея обученные веса)
С какой стороны не посмотри, а все очень не очень выглядит...но для кого не очень ?
Для авторов. Ладно, я калёный огурец соленый, который вырос в агрессивной среде схожей с серной кислотой и меня это не задевает.
Но как же меня бесит,что эти комментаторы вместо поддержки наших умельцев вечно гадят своими требования будто они все какие-то контролирующие службы.
Поменьше бы этого блядства в комментариях, может быть и сообщество наше энтузиастов выросло в ширь.
Я все. Остальным спасибо))
👍71🔥19❤🔥6❤4🙏2🤝2
Техножнец
небольшой намёк..
Нейроны отлично работают с дронами. Обучил их мурмуации, слежке за объектами, прессингу объектов по выбору.
Обучать не надо. Обучаются у нейронов только эволюционные инстинкты - как у животных.
Каждый дрон = более 400 нейронов, каждый отвечает за свою часть восприятия дрона. Дрон получая обвязку подобную больше не нуждается в PID..Т.к. Нейроны Поповича быстрее и точнее его.
С 0 обучения ( с точки зрения классики) до полёта за 1.5 секунды. Пока взлетает уже понимает, что он и кто он и куда надо лететь дальше. (если есть инструкции).
Обучение инструкция напоминает обучение эволюционных инстинктов. Подробности позже.
Обучать не надо. Обучаются у нейронов только эволюционные инстинкты - как у животных.
Каждый дрон = более 400 нейронов, каждый отвечает за свою часть восприятия дрона. Дрон получая обвязку подобную больше не нуждается в PID..Т.к. Нейроны Поповича быстрее и точнее его.
С 0 обучения ( с точки зрения классики) до полёта за 1.5 секунды. Пока взлетает уже понимает, что он и кто он и куда надо лететь дальше. (если есть инструкции).
Обучение инструкция напоминает обучение эволюционных инстинктов. Подробности позже.
2🔥65👍7👏3🫡2
This media is not supported in your browser
VIEW IN TELEGRAM
Коротко про мой сон сейчас...
🔥43👾6🐳3👌2❤1
Вот что я подумал...может правила русского языка запилить в нейроны...
💯30🤔10🔥5👍1😈1
Ради теста прикрутил 9 нейронов к Qwen 3: 0.6b (591 млн параметров, очень маленькая).
1👀20👍4
Пишу из кровати - там у Qwen 3: 0.6b сразу математика взлетела. Ну утро будет бенчмарк и данные по СПБГУ.
3🔥30👏6👍2🙏2
Кажется математика решена , неожиданно, но с нейронами она была простая для моделек. И реально работает в форварде без тулколинга, внутри скрытого пространства
👏41👍9🕊1
бенчмарки всё ещё летят на CPU. Видеокарта занята Rukallama - Всё время. Кстати она там вообще молодец. Но об этом позже.
🔥26✍6👍3
Все норм прошло. Записи не было.
Мне потом легче в онлайне стрим провести и рассказать, повторив беседу.
Всё норм прошло.
Мне потом легче в онлайне стрим провести и рассказать, повторив беседу.
Всё норм прошло.
👍51🔥9👏5❤🔥3🕊1