OpenChat is an innovative library of open-source language models, fine-tuned with C-RLFT - a strategy inspired by offline reinforcement learning. Our models learn from mixed-quality data without preference labels, delivering exceptional performance on par with ChatGPT, even with a 7B model. Despite our simple approach, we are committed to developing a high-performance, commercially viable, open-source large language model, and we continue to make significant strides toward this vision.
https://huggingface.co/openchat/openchat_3.5
https://huggingface.co/openchat/openchat_3.5
huggingface.co
openchat/openchat_3.5 · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
How to build knowledge graphs with large language models (LLMs) - Geeky Gadgets
https://www.geeky-gadgets.com/building-knowledge-graphs-using-llms/
https://www.geeky-gadgets.com/building-knowledge-graphs-using-llms/
Geeky Gadgets
How to build knowledge graphs with large language models (LLMs)
Learn how to build knowledge graphs using Python and large language models (LLMs) to create intricate interconnected knowledge maps
Scientists at Cornell University have created a technology, dubbed "PoseSonic". That combines micro sonar powered by CHIRP technology — a miniaturized version of the same technology used to map oceans or track submarines — with artificial intelligence (AI) to build an accurate echo profile image of the wearer. The micro sonar captures sound waves that are too quiet for human hearing.
Smart glasses could boost privacy by swapping cameras for this 100-year-old technology | Live Science
https://www.livescience.com/technology/smart-glasses-with-sonar-could-boost-privacy
Smart glasses could boost privacy by swapping cameras for this 100-year-old technology | Live Science
https://www.livescience.com/technology/smart-glasses-with-sonar-could-boost-privacy
livescience.com
Smart glasses could boost privacy by swapping cameras for this 100-year-old technology
Researchers have built a tool called PoseSonic that can accurately track a glasses wearer's upper body movements.
pro\\vision 👁
https://intema.ai/the-platform/
Это сайт с работы, если у вас есть стартап и вы хотите консультацию или инвестиции крупной корпорации из рф, или хотите чтобы вас познакомили с ещё кем-то
Forwarded from ml4se
Entity-Augmented Code Generation
LLMs are effective in generating high-quality text and encapsulating a broad spectrum of world knowledge. However, these mod-
els are not designed to utilize external information sources. In this paper, the authors use retrieval-augmented LLMs for a new task — code generation using external entities. Existing retrieval-augmented LLMs fail to assign relevance scores between similar entity names, thus the authors propose a novel end-to-end trainable architecture with an scalable entity retriever injected directly into the LLM decoder.
LLMs are effective in generating high-quality text and encapsulating a broad spectrum of world knowledge. However, these mod-
els are not designed to utilize external information sources. In this paper, the authors use retrieval-augmented LLMs for a new task — code generation using external entities. Existing retrieval-augmented LLMs fail to assign relevance scores between similar entity names, thus the authors propose a novel end-to-end trainable architecture with an scalable entity retriever injected directly into the LLM decoder.
Forwarded from ml4se
Chain of Code: Reasoning with a Language Model-Augmented Code Emulator
LMs may still produce a valid solution if they not only write code, but also selectively “emulate” the interpreter by generating the expected output and other lines of code that cannot be executed. In this work, the authors propose Chain of Code, a simple extension that improves LM code-driven reasoning. The key idea is to encourage LMs to format semantic sub-tasks in a program as flexible pseudocode that the interpreter can explicitly catch undefined behaviors and hand off to simulate with an LM. Experiments demonstrate that Chain of Code outperforms Chain of Thought and other baselines across a variety of benchmarks; on BIG-Bench Hard, Chain of Code achieves 84%, a gain of 12% over Chain of Thought.
Project: https://chain-of-code.github.io/
LMs may still produce a valid solution if they not only write code, but also selectively “emulate” the interpreter by generating the expected output and other lines of code that cannot be executed. In this work, the authors propose Chain of Code, a simple extension that improves LM code-driven reasoning. The key idea is to encourage LMs to format semantic sub-tasks in a program as flexible pseudocode that the interpreter can explicitly catch undefined behaviors and hand off to simulate with an LM. Experiments demonstrate that Chain of Code outperforms Chain of Thought and other baselines across a variety of benchmarks; on BIG-Bench Hard, Chain of Code achieves 84%, a gain of 12% over Chain of Thought.
Project: https://chain-of-code.github.io/
Forwarded from дневники смита
Can We Train Massive Neural Networks More Efficiently? Meet ReLoRA: the Game-Changer in AI Training - MarkTechPost
https://www.marktechpost.com/2023/12/21/can-we-train-massive-neural-networks-more-efficiently-meet-relora-the-game-changer-in-ai-training/
https://www.marktechpost.com/2023/12/21/can-we-train-massive-neural-networks-more-efficiently-meet-relora-the-game-changer-in-ai-training/
MarkTechPost
Can We Train Massive Neural Networks More Efficiently? Meet ReLoRA: the Game-Changer in AI Training
In machine learning, larger networks with increasing parameters are being trained. However, training such networks has become prohibitively expensive. Despite the success of this approach, there needs to be a greater understanding of why overparameterized…
Forwarded from A 🦎 I
Хотел вообще воскресить изначально диалог на тему метавселенных, т.к меня осенило парой наблюдений. Но в итоге получился целый материал, но тема такая, что вероятно ее можно раскрывать тысячей способов. Но пока что я особо ни с кем не делился, и поэтому не понимаю - может мне все таки показалось?
В общем если TL;DR
то метавселенная - это скорее культурное явление, которое довольно легко и понятно может быть создано в некоторых экосистемах где и так есть много цифрового медиа-контента с узнаваемыми героями. Очень подходит играм и условно фильмам, но догадка моя в том, что их можно создавать практически в любых целях.
Самое важное, пожалуй, что тем не менее как и при создании "виральных видео" на заказ - факт удачного создания культурных явлений тоже не гарантирован. А иногда такое и само происходит.
https://telegra.ph/bytovoj-vzglyad-na-meta-verse-i-ih-budushchee-v-kachestve-tehnologij-12-26
В общем если TL;DR
то метавселенная - это скорее культурное явление, которое довольно легко и понятно может быть создано в некоторых экосистемах где и так есть много цифрового медиа-контента с узнаваемыми героями. Очень подходит играм и условно фильмам, но догадка моя в том, что их можно создавать практически в любых целях.
Самое важное, пожалуй, что тем не менее как и при создании "виральных видео" на заказ - факт удачного создания культурных явлений тоже не гарантирован. А иногда такое и само происходит.
https://telegra.ph/bytovoj-vzglyad-na-meta-verse-i-ih-budushchee-v-kachestve-tehnologij-12-26
Telegraph
бытовой взгляд на метавселенные и технологии за ними
Мета-вселенная League of Legends В отпускном чилле посмотрел почти все видеоклипы, которые были сняты в рамках проектов кибер-спортивной игры League of legends. Среди этих роликов оказалось огромное множество музыкального контента, но в этот раз я обратил…
Похоже, что публиковать здесь больше смысла уже нет. Не поймите не правильно, но это должно было случиться. Наверное этот канал нужно отправить архив, но для этого я бы его скачал сначала
🫡2
Forwarded from A 🦎 I
по новосибу уже час, как наступил. Приглашаю вас в будущее - тут интересно ;)
Forwarded from Кирилл Корнеев
Что касается metaverse. Людям, а точнее разработчикам, нужно не единое пространство, которое на чьих-то там серверах вертится и не унифицированный аватар. Людям нужно что-то типа ядра Linux. Нечто, что обеспечивает взаимодействие между человеком и виртуальной реальностью и что поддерживает произвольные платформы. Например:
1) Собрал из картона, двух линз и телефона первые VR-очки
2) Поставил некое приложение из PlayMarket/AppStore
3) Приложение накатило драйвера под VR и открыло доступ к платформе
4) В один клик (очень важно!) создать некую тестовую среду, в которой можно быстро затестить VR
5) Без выхода на какие-то сверхкрутые сервера методом P2P позвать в свою среду других чуваков.
Под указанные требования подходит VRChat, но его возможности ограничены, собственно, чатом. А надо иметь возможность накатить 100500 расширений на игровое взаимодействие, на общие доски и т д.
1) Собрал из картона, двух линз и телефона первые VR-очки
2) Поставил некое приложение из PlayMarket/AppStore
3) Приложение накатило драйвера под VR и открыло доступ к платформе
4) В один клик (очень важно!) создать некую тестовую среду, в которой можно быстро затестить VR
5) Без выхода на какие-то сверхкрутые сервера методом P2P позвать в свою среду других чуваков.
Под указанные требования подходит VRChat, но его возможности ограничены, собственно, чатом. А надо иметь возможность накатить 100500 расширений на игровое взаимодействие, на общие доски и т д.
👾1