Tele-FLM-1T

Велика мовна модель на трильйон параметрів в Open Source.

#LLM

Flowise

Flowise - це чудовий інструмент для швидкого прототипування та створення LLM-додатків. Він особливо корисний для розробників та дослідників, які хочуть експериментувати з різними архітектурами LLM без глибокого занурення в код. Спробуйте Flowise, якщо ви працюєте над проектами, пов'язаними з обробкою природної мови та штучним інтелектом!

#JavaScript, #TypeScript, #LLM

🚀 Нова вершина у світі відкритих LLM!
Зустрічайте Reflection Llama-3.1 70B - найпотужнішу відкриту мовну модель, навчену за допомогою інноваційної техніки Reflection-Tuning. Ця модель здатна виявляти помилки у своїх міркуваннях та виправляти їх, що значно підвищує якість відповідей. Reflection Llama-3.1 70B використовує стандартний формат чату Llama 3.1 і додає спеціальні токени для розділення внутрішніх міркувань та фінальної відповіді. Модель показує вражаючі результати в різних бенчмарках і може бути використана так само, як і інші моделі Llama. Спробуйте її прямо зараз і переконайтеся в її можливостях!

#AI, #LLM

@sourcefuture

g1 - проект використовує Llama-3.1 70b на Groq для створення ланцюжків міркувань, схожих на o1. Цей експеримент показує, як промптинг може покращити логічні здібності LLM. g1 створює динамічні ланцюжки міркувань, дозволяючи моделі 'думати' і вирішувати складні логічні задачі. На відміну від o1, тут видно всі токени міркувань, і використовується модель з відкритим кодом. Проект має зручні Streamlit та Gradio інтерфейси для легкого використання та експериментів.

#Python, #AI, #LLM

@sourcefuture

llmio - легка Python бібліотека для роботи з LLM. llmio спрощує створення агентів на основі великих мовних моделей, використовуючи анотації типів для автоматичної генерації схем функцій. Підтримує OpenAI, Azure OpenAI, Google Gemini, AWS Bedrock та Huggingface TGI. Переваги:

• Легковісність 🪶: Просто інтегрується без зайвого навантаження
• Анотації типів 🏷️: Легке визначення інструментів
• Широка сумісність 🌍: Працює з основними LLM API

llmio - відмінний вибір для розробників, що працюють з великими мовними моделями, дозволяючи створювати агенти з мінімальними зусиллями.

#Python, #AI, #LLM

@sourcefuture

LitGPT - це потужний інструмент для роботи з великими мовними моделями (LLM). Він пропонує понад 20 високопродуктивних LLM з рецептами для попереднього навчання, тонкого налаштування та розгортання у великих масштабах. LitGPT підтримує такі передові функції як Flash Attention v2, багатогрупова підтримка через повністю розділений паралелізм даних, квантизацію та ефективне налаштування параметрів. Проект побудований на основі Lightning Fabric і розширює можливості Lit-LLaMA та nanoGPT.

#Python, #LLM

@sourcefuture

awesome-llm-apps - Чудова колекція додатків на основі великих мовних моделей (LLM) з використанням RAG (Retrieval Augmented Generation) та AI-агентів. Репозиторій містить проекти, що використовують моделі OpenAI, Anthropic, Google та навіть відкриті моделі, які можна запускати локально. Тут ви знайдете AI-агентів для підтримки клієнтів, інвестицій, журналістики, фінансів, подорожей та інших сфер. Також представлені туторіали з RAG, LLM з пам'яттю, чат-боти для роботи з різними джерелами даних та багато іншого. Це чудовий ресурс для вивчення практичного застосування LLM у різних доменах.

#Python, #LLM, #AI

@sourcefuture

Letta (раніше відомий як MemGPT) - це фреймворк для створення LLM-сервісів з пам'яттю. Letta дозволяє будувати статичні агенти з розширеними можливостями міркування та прозорою довготривалою пам'яттю. Фреймворк є відкритим та модельно-агностичним. Ключові особливості:

• Підтримка різних LLM-бекендів (OpenAI, Anthropic, vLLM, Ollama та ін.)
• Графічний інтерфейс Agent Development Environment (ADE) для створення та керування агентами
• REST API для інтеграції з іншими застосунками
• Можливість розгортання як локально, так і в хмарі
• Підтримка збереження стану агентів у базі даних

Letta - потужний інструмент для розробки AI-агентів з довготривалою пам'яттю та розширеними когнітивними здібностями.

#Python, #AI, #LLM

@sourcefuture

Dify - відкрита платформа для розробки LLM-додатків. Інтуїтивно зрозумілий інтерфейс Dify поєднує в собі робочий процес AI, конвеєр RAG, можливості агентів, управління моделями, функції спостереження та багато іншого, дозволяючи швидко перейти від прототипу до продакшену. Платформа підтримує різноманітні LLM-моделі, має вбудований RAG-движок, агентів, робочі процеси та інструменти для моніторингу. Dify можна розгорнути локально або використовувати хмарну версію.

#AI, #LLM

@sourcefuture