pro\\vision 👁
https://intema.ai/the-platform/
Это сайт с работы, если у вас есть стартап и вы хотите консультацию или инвестиции крупной корпорации из рф, или хотите чтобы вас познакомили с ещё кем-то
Forwarded from ml4se
Entity-Augmented Code Generation
LLMs are effective in generating high-quality text and encapsulating a broad spectrum of world knowledge. However, these mod-
els are not designed to utilize external information sources. In this paper, the authors use retrieval-augmented LLMs for a new task — code generation using external entities. Existing retrieval-augmented LLMs fail to assign relevance scores between similar entity names, thus the authors propose a novel end-to-end trainable architecture with an scalable entity retriever injected directly into the LLM decoder.
LLMs are effective in generating high-quality text and encapsulating a broad spectrum of world knowledge. However, these mod-
els are not designed to utilize external information sources. In this paper, the authors use retrieval-augmented LLMs for a new task — code generation using external entities. Existing retrieval-augmented LLMs fail to assign relevance scores between similar entity names, thus the authors propose a novel end-to-end trainable architecture with an scalable entity retriever injected directly into the LLM decoder.
Forwarded from ml4se
Chain of Code: Reasoning with a Language Model-Augmented Code Emulator
LMs may still produce a valid solution if they not only write code, but also selectively “emulate” the interpreter by generating the expected output and other lines of code that cannot be executed. In this work, the authors propose Chain of Code, a simple extension that improves LM code-driven reasoning. The key idea is to encourage LMs to format semantic sub-tasks in a program as flexible pseudocode that the interpreter can explicitly catch undefined behaviors and hand off to simulate with an LM. Experiments demonstrate that Chain of Code outperforms Chain of Thought and other baselines across a variety of benchmarks; on BIG-Bench Hard, Chain of Code achieves 84%, a gain of 12% over Chain of Thought.
Project: https://chain-of-code.github.io/
LMs may still produce a valid solution if they not only write code, but also selectively “emulate” the interpreter by generating the expected output and other lines of code that cannot be executed. In this work, the authors propose Chain of Code, a simple extension that improves LM code-driven reasoning. The key idea is to encourage LMs to format semantic sub-tasks in a program as flexible pseudocode that the interpreter can explicitly catch undefined behaviors and hand off to simulate with an LM. Experiments demonstrate that Chain of Code outperforms Chain of Thought and other baselines across a variety of benchmarks; on BIG-Bench Hard, Chain of Code achieves 84%, a gain of 12% over Chain of Thought.
Project: https://chain-of-code.github.io/
Forwarded from дневники смита
Can We Train Massive Neural Networks More Efficiently? Meet ReLoRA: the Game-Changer in AI Training - MarkTechPost
https://www.marktechpost.com/2023/12/21/can-we-train-massive-neural-networks-more-efficiently-meet-relora-the-game-changer-in-ai-training/
https://www.marktechpost.com/2023/12/21/can-we-train-massive-neural-networks-more-efficiently-meet-relora-the-game-changer-in-ai-training/
MarkTechPost
Can We Train Massive Neural Networks More Efficiently? Meet ReLoRA: the Game-Changer in AI Training
In machine learning, larger networks with increasing parameters are being trained. However, training such networks has become prohibitively expensive. Despite the success of this approach, there needs to be a greater understanding of why overparameterized…
Forwarded from A 🦎 I
Хотел вообще воскресить изначально диалог на тему метавселенных, т.к меня осенило парой наблюдений. Но в итоге получился целый материал, но тема такая, что вероятно ее можно раскрывать тысячей способов. Но пока что я особо ни с кем не делился, и поэтому не понимаю - может мне все таки показалось?
В общем если TL;DR
то метавселенная - это скорее культурное явление, которое довольно легко и понятно может быть создано в некоторых экосистемах где и так есть много цифрового медиа-контента с узнаваемыми героями. Очень подходит играм и условно фильмам, но догадка моя в том, что их можно создавать практически в любых целях.
Самое важное, пожалуй, что тем не менее как и при создании "виральных видео" на заказ - факт удачного создания культурных явлений тоже не гарантирован. А иногда такое и само происходит.
https://telegra.ph/bytovoj-vzglyad-na-meta-verse-i-ih-budushchee-v-kachestve-tehnologij-12-26
В общем если TL;DR
то метавселенная - это скорее культурное явление, которое довольно легко и понятно может быть создано в некоторых экосистемах где и так есть много цифрового медиа-контента с узнаваемыми героями. Очень подходит играм и условно фильмам, но догадка моя в том, что их можно создавать практически в любых целях.
Самое важное, пожалуй, что тем не менее как и при создании "виральных видео" на заказ - факт удачного создания культурных явлений тоже не гарантирован. А иногда такое и само происходит.
https://telegra.ph/bytovoj-vzglyad-na-meta-verse-i-ih-budushchee-v-kachestve-tehnologij-12-26
Telegraph
бытовой взгляд на метавселенные и технологии за ними
Мета-вселенная League of Legends В отпускном чилле посмотрел почти все видеоклипы, которые были сняты в рамках проектов кибер-спортивной игры League of legends. Среди этих роликов оказалось огромное множество музыкального контента, но в этот раз я обратил…
Похоже, что публиковать здесь больше смысла уже нет. Не поймите не правильно, но это должно было случиться. Наверное этот канал нужно отправить архив, но для этого я бы его скачал сначала
🫡2
Forwarded from A 🦎 I
по новосибу уже час, как наступил. Приглашаю вас в будущее - тут интересно ;)
Forwarded from Кирилл Корнеев
Что касается metaverse. Людям, а точнее разработчикам, нужно не единое пространство, которое на чьих-то там серверах вертится и не унифицированный аватар. Людям нужно что-то типа ядра Linux. Нечто, что обеспечивает взаимодействие между человеком и виртуальной реальностью и что поддерживает произвольные платформы. Например:
1) Собрал из картона, двух линз и телефона первые VR-очки
2) Поставил некое приложение из PlayMarket/AppStore
3) Приложение накатило драйвера под VR и открыло доступ к платформе
4) В один клик (очень важно!) создать некую тестовую среду, в которой можно быстро затестить VR
5) Без выхода на какие-то сверхкрутые сервера методом P2P позвать в свою среду других чуваков.
Под указанные требования подходит VRChat, но его возможности ограничены, собственно, чатом. А надо иметь возможность накатить 100500 расширений на игровое взаимодействие, на общие доски и т д.
1) Собрал из картона, двух линз и телефона первые VR-очки
2) Поставил некое приложение из PlayMarket/AppStore
3) Приложение накатило драйвера под VR и открыло доступ к платформе
4) В один клик (очень важно!) создать некую тестовую среду, в которой можно быстро затестить VR
5) Без выхода на какие-то сверхкрутые сервера методом P2P позвать в свою среду других чуваков.
Под указанные требования подходит VRChat, но его возможности ограничены, собственно, чатом. А надо иметь возможность накатить 100500 расширений на игровое взаимодействие, на общие доски и т д.
👾1